Il continue à jouer, à diriger et à enregistrer de façon prolifique jusqu'à sa mort à Anif en 1989, principalement avec le Berlin Philharmonic et le Vienna Philharmonic.
Il a continué à travailler très fort, à diriger et à enregistrer jusqu "à sa mort en 1989. Au cours des dernières années de Karajan, il a quitté l'Orchestre philharmonique de Berlin après avoir discuté avec eux, et s'est concentré sur la reprise du travail avec l'Opéra d'Etat de Vienne et le Philharmonique de Vienne.