В 1929 году он дирижировал Саломе в Festspielhaus в Зальцбурге, а с 1929 по 1934 год Караян был первым капельмейстером в Stadttheater в Ульме.
К 1929 году он дирижировал в Festspielhaus в Зальцбурге, а в 1934 году впервые возглавил Венскую филармонию. Он регулярно дирижировал в Ульме и Аахене.