Nushi sündis Albaania õigeusu vanematele Vuno's, külas Himara rannikul. Ta käis nooruses grammatikoolis. 1928. aastal emigreerus ta koos oma isaga kodumaiste majandusraskuste tõttu ja asus elama Prantsusmaal Lyonis, kus ta töötas tehase töölisena. Nendel tingimustel võttis ta osa vasakpoolsest tegevusest emigreeritud albaani intellektuaalide seas ja sai 1935. aastal Prantsuse Kommunistliku Partei liikmeks. Vastuseks Itaalia sissetungile Albaaniasse
1939. aastal naasis ta aasta hiljem Albaaniasse, kus ta sai Albaania kommunistliku partei asutajaliikmeks ja mängis aktiivset rolli partei vastuseisundis II maailmasõja ajal. Ta juhtis Tirana parteiorganisatsiooni kogu selle perioodi vältel, kasutades oma varasemaid kogemusi Prantsuse töölisklassis, et organiseerida Albaania töölisi ja noori vastupanuks, ja teda vahistati ja vabastati okupatsiooniasutuste poolt vahepeal. Hiljem teenis ta poliitilistes ametikohtades Esimese, Teise ja Neljanda võitlusdivisjoni sees.