Khalifah
Setelah perang saudara pertama di penghujung masa Kekhalifahan Rasyidin, Hasan bin 'Ali menyerahkan tampuk kekuasaan kepada Mu'awiyah yang kemudian mengubah bentuk kekhalifahan menjadi monarki-dinasti, menandai dimulainya masa Kekhalifahan Umayyah. Berpusat di Damaskus, Bani Umayyah memegang tampuk kekhalifahan selama hampir seabad sebelum akhirnya digulingkan kelompok Abbasiyah yang mendirikan kekhalifahan-dinasti mereka sendiri mulai tahun 750. Berbeda dengan masa Khulafaur Rasyidin atau Umayyah, khalifah pada masa Abbasiyah tidak lagi memimpin secara langsung seluruh wilayah dunia Islam dan wilayah kekuasaannya hanya berkisar di kawasan Mesopotamia. Beberapa kepala negara Muslim (bergelar amir atau sultan) memimpin wilayah kekuasaan mereka secara mandiri tanpa campur tangan khalifah. Meski begitu, khalifah tetap dipandang sebagai pemimpin dunia Islam secara keseluruhan dan kepala negara Muslim yang lain memberikan ketundukkan mereka secara simbolis kepada khalifah. Berbeda dengan Umayyah yang sangat bercorak Arab, Abbasiyah yang berpusat di kawasan Mesopotamia memberikan corak Persia yang kental pada kekhalifahan.
Kekhalifahan Umayyah
Setelah Hisyam bin Abdul-Malik wafat, khalifah-khalifah Bani Umayyah yang tampil berikutnya bukan hanya lemah tetapi juga bermoral buruk. Hal ini semakin memperkuat golongan oposisi. Dan akhirnya, pada tahun 750 M, Daulah Umayyah digulingkan oleh Bani Abbasiyah yang merupakan bahagian dari Bani Hasyim itu sendiri, di mana Marwan bin Muhammad, khalifah terakhir Bani Umayyah, walaupun berhasil melarikan diri ke Mesir, namun kemudian berhasil ditangkap dan terbunuh di sana. Namun, salah satu penerus bani umayyah yang bernama Abdurrahman Ad-dakhil dapat meloloskan diri pada tahun 755 M. Ia dapat lolos dari kejaran pasukan bani abbasiyah dan masuk ke Andalusia (Spanyol). Di Spanyol sebagian besar umat islam disana masih setia dengan bani umayyah. Ia kemudian mendirikan pemerintahan sendiri dan mengangkat dirinya sebagai amir (pemimpin) dengan pusat kekuasaan di Cordoba. Kematian Marwan bin Muhammad menandai berakhirnya kekuasaan Bani Umayyah di timur (Damaskus) yang digantikan oleh Daulah Abbasiyah, dan dimulailah era baru Bani Umayyah di Al-Andalus.