O'Sullivan sündis Cobh'is, Cork'i maakonnas ja õppis Cobh'i kogukonna kolledžis. Ta lõpetas õpingud 1987. aastal. O'Sullivani esimene suur rahvusvaheline võistlus oli 1990. aasta Euroopa meistrivõistlused
Splitis, kus ta lõpetas 3000 meetri jooksus 11. kohal. Kuid O'Sullivan paranes pärast seda kiiresti ja 26. jaanuaril järgmisel aastal Bostonis seadis ta uue maailma siseruumide rekordi 5000 meetrisse 15:17.28, võttes vanast rekordist rohkem kui 5 sekundit. Sel ajal õppis O'Sullivan USA Villanova Ülikoolis raamatupidamist ja 1991. aasta juulis Sheffieldis toimunud Ülemaailmsetel üliõpilaste mängudel võitis ta 1500 m kuldmedali ajaga 4:12,14 ja hõbemedaali 3000 m ajaga 8:56,55. 1992. aasta alguses lõpetas ta Maailma Cross Country meistrivõistlustel 7. koha.