He studied mechanical engineering at the School of Maritime in Istanbul Technical University, graduating in 1982 with a bachelor's degree. İsmet Yılmaz received a Doctor of Law degree from the Institute of Social Sciences at Ankara University.
Kamu ve özel sektörde yaklaşık 20 yıl mühendis, müşavir avukat olarak çalıştı. 2002'de Denizcilik Müsteşarı olarak atandı. Türk Telekom Yönetim Kurulu Başkan Vekilliği görevini yürüttü. 2007'de Kültür ve Turizm Bakanlığı Müsteşarlığı görevine getirildi.