Ta lõpetas oma karjääri Red Bulli Salzburgi klubiga, kus ta võttis reserve meeskonna treeneri mitte-mängija rolli ja lõpuks sai meeskonna juhataja Ricardo Monizi juhataja abimanaheri. 2013. aasta jaanuaris võttis Kovač üle Horvaatia U-21 rahvuskoondise ja 2013. aasta oktoobris võttis ta üle Horvaatia seniori meeskonna pärast Igor Štimaci vallandamist. Kovač juhtis Horvaatiat 2014. aasta FIFA maailmameistrivõistlustel, seejärel sai ta 2016. aastal Eintracht Frankfurdi peakooli treeneriks, võites 2018. aasta DFB-Pokali finaali.
Klubiga. Bayernis võitis Kovač 2019. aastal pärast hooaja tugevat lõppu kodumaise topeltvõistluse, kuid kaotas hiljem samal sügisel töö. 2020. aasta suvel määrati Kovač Monaco treeneriks.