Jaouad Gharib sündis Khenifras, Kesk-Atlas Berberi vanematele, kuid sai orvuks. Tema lapsena oli lemmikspordiks jalgpall ja alles 1992. aastal, kui ta televisioonis Marrakechi maratooni otseülekannet vaatas, hakkas ta huvi võtma kergejõustikku. Tema andekust pikkade vahemaade jooksmisel sai kiiresti selgeks, kui ta võitis Maroko Kuningliku Kaardi võistlusi ning teisi riiklikke võistlusi. Gharib osales esmakordselt rahvusvahelistel võistlustel 2001. aastal, olles IAAF-i 2001. aasta poolmaratoni maailmameistrivõistlustel üheksas.
2001. aasta kergejõustikunsti maailmameistrivõistlustel 10 000 meetrit. Ta võitis 2001. aasta Vahemere mängudel kuldmedali. Endised sportlased Aziz Daouda ja Brahim Boutayeb veensid Gharibi keskenduma pikematele teekondadele, tundes tema potentsiaali kaugematele vahemaadele.