5. detsembril 1996 teatas president Bill Clinton, et on valinud Cohen'i kaitseministriks, öeldes, et ta on "õige inimene", kes saab rajada (pensionil oleva kaitseministri) William Perry saavutustele, "et tagada kahe erakonna toetus, mida Ameerika relvajõud peavad saama ja mida nad ilmselgelt väärivad". Kaitseministrina mängis Cohen olulist rolli USA sõjaliste operatsioonide juhtimises Iraagis ja Kosovos, sealhulgas Wesley Clarki ametist vabastamisel. Operatsioon Desert Fox Iraagis ja Operatsioon Allied Force Kosovos käivitati vaid mõned kuud pärast seda, kui al-Qaeda korraldas USA saatkonna pommitamise.
1998. aastal Dar es Salaamis Tansaanias ja Nairobis Keenias.