В музыкальном плане на Кертеша больше всего повлияли Ласло Сомодьи, Бруно Вальтер и Отто Клемперер, тогдашний директор Будапештской оперы.
Вскоре он заинтересовался дирижированием и многому научился у Бруно Вальтера и Отто Клемперера, тогдашнего директора Будапештской оперы.