Il fait ses débuts comme claveciniste à Vienne en 1950 et y étudie la musicologie.
Il dirige le Leonhardt Baroque Ensemble avec le contre-ténor anglais Alfred Deller avec lequel il réalise l'un des premiers enregistrements de quelques cantates de Bach.