Baler valiti demokraadiks viiekümne kaheksandale kongressile. Ta oli USA esindaja New Yorgi kuuendast ringkonnast 4. märtsist 1903 kuni 3. märtsini 1905. Tema ametiaega tähistasid vastuolud, sest Baker jäi truuks oma reformistlikule filosoofiale ja teenis kiiresti hüüdnime "No Pass" Baker, kuna ta keeldus tasuta raudteepäevadest, mida B & O Railroad regulaarselt seadusandjatele jagas. Ta oli pacifist, ta tutvustas seadusandlust USA sõjaväeakadeemia lahutamiseks West Pointi ja veel ühe ettepaneku, mis mõistis hukka "Verise pühapäeva"
massimõrv Peterburis, Venemaal.