Bei den Kongresswahlen des Jahres 1894 wurde Foss im siebten Wahlbezirk von Illinois in das US-Repräsentantenhaus in Washington, D.C. gewählt, wo er am 4. März 1895 die Nachfolge von Thomas J. Henderson antrat.