Nach dem Tod des Abgeordneten Richard W. Townshend wurde Williams bei der fälligen Nachwahl für den 19. Sitz von Illinois als dessen Nachfolger in das US-Repräsentantenhaus in Washington D.C. gewählt, wo er am 2. Dezember 1889 sein neues Mandat antrat.