Khalifah
Setelah perang saudara pertama di penghujung masa Kekhalifahan Rasyidin, Hasan bin 'Ali menyerahkan tampuk kekuasaan kepada Mu'awiyah yang kemudian mengubah bentuk kekhalifahan menjadi monarki-dinasti, menandai dimulainya masa Kekhalifahan Umayyah. Berpusat di Damaskus, Bani Umayyah memegang tampuk kekhalifahan selama hampir seabad sebelum akhirnya digulingkan kelompok Abbasiyah yang mendirikan kekhalifahan-dinasti mereka sendiri mulai tahun 750. Berbeda dengan masa Khulafaur Rasyidin atau Umayyah, khalifah pada masa Abbasiyah tidak lagi memimpin secara langsung seluruh wilayah dunia Islam dan wilayah kekuasaannya hanya berkisar di kawasan Mesopotamia. Beberapa kepala negara Muslim (bergelar amir atau sultan) memimpin wilayah kekuasaan mereka secara mandiri tanpa campur tangan khalifah. Meski begitu, khalifah tetap dipandang sebagai pemimpin dunia Islam secara keseluruhan dan kepala negara Muslim yang lain memberikan ketundukkan mereka secara simbolis kepada khalifah. Berbeda dengan Umayyah yang sangat bercorak Arab, Abbasiyah yang berpusat di kawasan Mesopotamia memberikan corak Persia yang kental pada kekhalifahan.
Dinasti Ayyubiyah
Salahuddin membentuk struktur pemerintahan yang berasaskan kedaulatan kolektif: ia membentuk sebuah konfederasi yang terdiri dari berbagai wilayah yang disatukan oleh gagasan pemerintahan keluarga. Berdasarkan sistem ini, terdapat sejumlah "sultan kecil", sementara salah satu anggota keluarga Ayyubiyah akan menjadi "as-Sultan al-Mu'azzam", yaitu pemegang jabatan tertinggi. Setelah kematian Salahuddin, jabatan yang amat didambakan tersebut diperebutkan oleh anggota keluarga Ayyubiyah. Persaingan yang terjadi di antara anggota Bani Ayyubiyah di Mesir dan Suriah menjadi begitu sengit sampai-sampai salah satu dari antara mereka kadang-kadang akan bekerja sama dengan Tentara Salib. Kedua wilayah itu sendiri memiliki gaya pemerintahan yang berbeda. Di Suriah, setiap kota besar diperintah oleh seorang anggota keluarga Ayyubiyah yang relatif independen, sementara di Mesir, terdapat tradisi pemerintahan tersentralisasi yang memungkinkan kendali langsung atas provinsi-provinsi lain dari ibu kota di Kairo. Namun, Kekhalifahan Abbasiyah di Baghdad masih memegang hegemoni di wilayah Ayyubiyah, terutama di Asia Barat Daya. Contohnya, hakim kepala Damaskus masih diangkat oleh Abbasiyah pada masa kekuasaan Ayyubiyah.