Upon his return to Taiwan in 1945, he began his political career as a magistrate in the Kaohsiung County assembly.
台灣光復後返台，歷任高雄縣長、省政府秘書長、省議會副議長、議長、省府主席，民國六十七年當選中華民國第六任副總統。四十多年的從政生涯，謝副總統始終以溫和敦厚、平易近人、勤儉樸實著稱。「平凡、平淡、平實」是他一直奉行的從政態度，任何一項施政構想，都從大處著眼、小處著手。