Kekhalifahan Abbasiyah
Bagaimanapun tentara Mamluk membantu sekaligus menyulitkan kekhalifahan Abbasiyah. karena berbagai kondisi yang ada di umat muslim saat itu pada akhirnya kekhalifahan ini hanya menjadi simbol dan bahkan tentara Mamluk ini, yang kemudian dikenal dengan "Bani Mamalik" berhasil berkuasa, yang pada mulanya mengambil inisiatif merebut kekuasaan kerajaan Ayyubiyyah yang pada masa itu merupakan kepanjangan tangan dari khilafah Bani Abbas, hal ini disebabkan karena para penguasa Ayyubiyyah waktu itu kurang tegas dalam memimpin kerajaan. Bani Mamalik ini mendirikan kesultanan sendiri di Mesir dan memindahkan ibu kota dari Baghdad ke Cairo setelah berbagai serangan dari tentara tartar dan kehancuran Baghdad sendiri setelah serangan Mongol di bawah pimpinan Hulagu Khan. Walaupun berkuasa Bani Mamalik tetap menyatakan diri berada di bawah kekuasaan (simbolik) kekhalifahan, dimana khalifah Abbasiyyah tetap sebagai kepala negara.
Kekhalifahan Umayyah
Setelah itu, gerakan-gerakan lain yang dilancarkan oleh kelompok Khawarij dan Syi'ah juga dapat diredakan. Keberhasilan ini membuat orientasi pemerintahan Bani Umayyah mulai dapat diarahkan kepada pengamanan daerah-daerah kekuasaan di wilayah timur (meliputi kota-kota di sekitar Asia Tengah) dan wilayah Afrika bagian utara, bahkan membuka jalan untuk menaklukkan Spanyol (Al-Andalus). Selanjutnya hubungan pemerintah dengan golongan oposisi membaik pada masa pemerintahan Khalifah Umar bin Abdul-Aziz (717-720 M), di mana sewaktu diangkat sebagai khalifah, menyatakan akan memperbaiki dan meningkatkan negeri-negeri yang berada dalam wilayah Islam agar menjadi lebih baik daripada menambah perluasannya, di mana pembangunan dalam negeri menjadi prioritas utamanya, meringankan zakat, kedudukan mawali disejajarkan dengan Arab. Meskipun masa pemerintahannya sangat singkat, namun berhasil menyadarkan golongan Syi'ah, serta memberi kebebasan kepada penganut agama lain untuk beribadah sesuai dengan keyakinan dan kepercayaannya.