Baker -LRB- / O1919 / O-RRB- En 1872, il retourne en Allemagne et dirige un orchestre connu sous le nom d'Orchestre symphonique de Berlin avant d'établir son propre Neue Berliner Symphoniekapelle en 1876.
En 1882, il devient le premier chef d'orchestre d'un nouvel orchestre, l'Orchestre philharmonique de Berlin, qui deviendra bientôt l'un des meilleurs orchestres du monde.