Von 1921 bis 1922 fungierte Lemke als Attorney General von North Dakota. 1932 wurde er erstmals in das US-Repräsentantenhaus gewählt, wobei er als Kandidat der Republikaner antrat, zu diesem Zeitpunkt aber noch der Nonpartisan League angehörte.