Ebenso wie sein Vater engagierte sich Rudolf Schieler in der SPD. 1960 wurde er als Abgeordneter in den Landtag von Baden-Württemberg gewählt und war damit „Kollege“ seines Vaters, der bis 1964 ebenfalls MdL war.