Kui Wilson kuulutas 1976. aasta märtsis äkitselt oma pensionile jäämise, võitis Callaghan viis teist kandidaati, et saada Tööpartei juhiks; ta nimetati peaministriks 5. aprillil 1976. Vaatamata sellele, et 1974. aasta valimistel oli leiboristidel alamkojas kitsas enamus, kaotasid nad selle, kui Callaghanist sai peaminister, ja mitmed vahevalimiste kaotused ja lahkumised tema esimestel kuudel sundisid Callaghanit sõlmima usalduse ja tarne kokkuleppe Liberaalse Parteiga. Kuigi see oli alguses stabiilne, tõusis see pärast märkimisväärseid töövaidlusi ja laialdasi streike 1978-1979 "mittevastuse talvel" ning Šotimaa delegeerimise referendumi kaotust.
, mis viis väikeste erakondade ühinemiseni konservatiividega, et 28. märtsil 1979 Callaghanile usalduse avaldamine. Kuigi ta oli isiklikult populaarne, viis Callaghan 1979. aasta valimistel laburistide allakäigule ja ta asendati Margaret Thatcheriga.