Bei den Kongresswahlen des Jahres 1912 wurde Gilmore im 14. Wahlbezirk von Massachusetts in das US-Repräsentantenhaus in Washington, D.C. gewählt, wo er am 4. März 1913 die Nachfolge von Robert O. Harris antrat.