Bei den Kongresswahlen des Jahres 1834 wurde Bailey als deren Kandidat im dritten Wahlbezirk von Maine in das US-Repräsentantenhaus in Washington D.C. gewählt, wo er am 4. März 1835 die Nachfolge von Edward Kavanagh antrat.