Stein sündis Nathan Steini ja Anna Hirschleri lapsena, kes elasid Austria-Ungari impeeriumi Budapestis. Tema vanemad ja õde säilitasid oma juudi usu, kuid Stein ja tema vend Ernst Eduard ristiti luterlastena, ilmselt selleks, et vabastada nad antisemitismist, mis oleks keelanud neile juurdepääsu haridusele ja edusammudele. Kodus rääkis perekond saksa ja ungari keelt, Ungari rahvusliku ärkamise keelt 19. sajandil, ja Stein oli selle pärandi üle uhke kogu oma ülejäänud eluks. Ta käis katoliku ja luterliku gümnaasiumides Budapestis, kus ta õppis kreeka, ladina, prantsuse ja inglise keelt enne kõrgemat õpinguid Viini, Leipzigi ja Tübingi ülikoolides. Ta õppis sanskriti ja persia keelt ja sai Ph.D. alates 1883. aastast.
Juudid