Adolf Abramovich Joffe sündis Simferopol, Krimmi, Vene impeerium rikkas Karaite perekond. Aastal 1900, kui ta oli veel keskkoolis, sai temast sotsiaaldemokraat ja 1903. aastal ühines ametlikult Venemaa Sotsiaaldemokraatliku Tööparteiga. 1904. aastal saadeti Joffe Baku, kust ta pidi põgenema, et vältida vahistamist. Seejärel saadeti ta Moskvasse, kuid pidi uuesti põgenema, seekord välismaale. Pärast verist pühapäeva sündmusi
9. jaanuaril 1905 naasis Joffe Venemaale ja osales aktiivselt 1905. aasta Vene revolutsioonis. 1906. aasta alguses oli ta sunnitud emigreerima ja elas Berliinis kuni Saksamaalt väljasaatmiseni 1906. aasta mais.