סבו מצד אמו, דניס ברי, היה מהגרים אירי שעבד כקצין משטרת ניו יורק. קרלין נזכר ששמה הנשי של סבתו היה או'גריידי, אך זה הוחלף לגריידי לפני שהיא הגיעה לארה"ב. הוא התבדח כי הם "השליכו את או'גריידי באוקיינוס בדרך לכאן". הוא קרא לו בשם ג'ורג' קרלין ב"תוכנית או'גריידי" כאחד מעשי הכבוד להוריו. קרלין נפרד מאביו כאשר היה בן חודשיים כיוון שאביו היה מהגרים איריים מהמחוז דונגל, ואמו הייתה אירית-אמריקאית אירית. אביו היה מהגרגר אירי מבית הספר התיכון במחוז דונגל, ואמו הייתה אירית אירית אירית אירית. סביו, דניס ברי, היה מהגרגר גריידי, אך הוא הצטרף לבית הספר הרדיו של בית הספר הקתוליק "השליטה" לאחר מותו של אביו. הוא גדל בבית הספר הקתוליק "קארלי מורס" בבית הספר
חיל האוויר