Pettitte oli esimene nelja peamise mängija, kes loobus, teatades oma otsusest pressikonverentsil Yankee staadionil 4. veebruaril 2011. Ta ütles organisatsioonile, et "ei looda tema naasmisele" pärast Yankees'i kaotust 2010. aasta American League Championship Series'is.
Texas Rangers, viidates oma soovi veeta rohkem aega oma perega. Pärast hooaja möödumist pesapallist oli ta 2012. aasta kevadtreeningute ajal Yankees'i külalisõpetaja ja rõhutas, et ta ei kaalu tagasipöördumist. Kuid ta muutis oma otsust oma viimasel päeval juhendajana ja liitus taas organisatsiooniga 16. märtsil, allkirjastades 2,5 miljoni dollari suuruse väikese liiga lepingu. Ta mängis Yankees'is nii 2010. kui 2010. aasta hooaegadel, enne kui teatas oma teisest pensionile jäämisest 20. septembril 2013. aastal. Kuigi ta algselt ei tahtnud oma otsust avalikustada, tegi ta seda Rivera nõudmisel. Yankees korraldas Pettitte'i jaoks tseremoonia viis päeva hiljem, 25. septembril, kus teised Core Four'i liikmed Jeter ja Rivera esitlesid talle raamitud baasi tema viimasest Yankee Stadiumi algusest, mille allkirjastasid kõik tema meeskonnakaaslased. Ta tegi oma viimase esinemise 28. septembril Houston Astrose vastu, ainus teine meeskond, mille eest ta oma karjääri jooksul oli mänginud. Ta mängis esimest korda alates 2006. aastast täielikku mängu ja võites oma viimases startis, lõpetas ta hooaja 11-11 võidu-kaotuse rekordiga. See säilitas tema rekordid, et tal ei olnud oma 18-aastase karjääri jooksul kunagi kaotavat hooaega ja oli ainus heitaja suurte liigade ajaloos, kellel oli 15 võitu hooaega (minimaalselt kolm algust igaühel) ilma kaotatud hooaega registreerimata.