Il a aussi été chef d'orchestre en chef de l'Orchestre symphonique de Houston de 1961 à 1967, et il a été chef invité de nombreux autres orchestres, dont le BBC Symphony Orchestra, le London Symphony Orchestra, le Philharmonia, le Berlin Philharmonic et le Vienna Philharmonic.
Il dirige d'autres grands orchestres, dont le New York Philharmonic et la Houston Symphony, et dirige également des orchestres dont le London Symphony Orchestra, le London Philharmonic Orchestra, le Berlin Philharmonic et le Vienna Philharmonic.