Borodin sündis Mikhail Markovich Gruzenberg'i ({{lang-en_Mikhail Markovich Gruzenberg}}) juudi perekonnas 9. juulil 1884 Jaanovitšis, Vene impeeriumis, nüüd Valgevene Vitebski piirkonnas. Väga noorelt hakkas ta tööle paadijuhiks Lääne-Dvinas, ületades jõge Vitebski, Dvinski ja Riia vahel, mis on nüüd Läti pealinn. Hiljem kolis ta Riigasse, kus ta õppis vene keele õhtukoolis ja töötas linnas sadamas. Ta liitus 16aastaselt Üldjuudi Tööbundiga, vahetades 1903. aastal ustavuse Vladimir Lenini bolševikidesse. Ta sai Lenini lähedaseks kaaslaseks ja kasutas oma teadmised jidiši, saksa ja läti keeltest, et töötada bolševikide agendina keisririigi loodeosas. 1904. aasta keskpaigas määrati ta Šveitsi, et kohtuda pagendusse läinud Leniniga. Pärast "Verist pühapäeva" massimõrva relvastamata meeleavaldajate poolt tsaarlaste vägede poolt Peterburis 9. jaanuaril 1905, Borodin naasis Venemaale, korraldas revolutsioonilist tegevust Riias ja valiti hiljem osalema bolševikide konverentsil.
Tampere'is, kus ta kohtus Joseph Staliniga.