Joseph gründete Filialen in Wien, Berlin, Budapest, London und Paris. 1898 wandelte er sein Unternehmen in eine Aktiengesellschaft um und gründete im gleichen Jahr mit Bruder Emil die Deutsche Grammophon Gesellschaft für die Herstellung von Schallplatten.