Gibbons sündis New Jerseys Newarkis ja kasvas üles Belleville'is. Ta lõpetas 1942. aastal Saint Benedicti ettevalmistava kooli. Ta teenis Ameerika Ühendriikide mereväes aastatel 1943-1946. Gibbons lõpetas College of the Holy Cross 1947. aastal bakalaureusekraadiga ja Harvard Law School 1950. aastal bakalaureusekraadiga. Pärast lõpetamist liitus Gibbons Crummy & Consodine'i firmaga. Pärast mitut aastat firmas oli ta partner ja firma nimi muutus Crummy, Consodine & Gibbonsiks. Aastal 1967 sai Gibbons New Jersey osariigi advokaatide ühingute presidendiks ja ka kuberneri tsiviilhäirete komisjoni liikmeks. See oli Newarki rahutuste ajal.
23 inimest hukkus ja üle 1500 arreteeriti. Ettevõte vastas, saates advokaatidega täis autosid kohtumajja, et kiirendada kautsjoni taotluste menetlemist ja vähendada vanglate ülekoormust. Ettevõte esindas paljusid süüdistatavaid tasuta.