Scharmitzer vertrat die Christlichsoziale Partei zwischen dem 11. Mai 1921 und dem 30. Oktober 1934 im Niederösterreichischen Landtag, wobei er zwischen dem 1. Juli 1931 und dem 21. Mai 1932 auch Landesrat war.