Masjid Al-Aqsha
Pada tahun 637, umat Islam mengambil alih kepemimpinan atas Yerusalem dari tangan Romawi Timur pada masa kepemimpinan Khalifah Umar bin Khaththab. Kompleks reruntuhan Bait Suci, dikenal sebagai Masjid Al Aqsha atau Baitul Maqdis oleh umat Islam, ditemukan Umar dalam keadaan tidak terawat. Meski begitu, Umar kemudian menemukan Batu Fondasi atas bantuan Ka’b Al Ahbar, seorang Yahudi yang telah masuk Islam. Batu ini diyakini sebagai titik pijakan Nabi Muhammad naik ke langit dalam kepercayaan umat Islam dan tempat Nabi Ibrahim (Abraham) hendak menyembelih anaknya, Ishaq, dalam kepercayaan umat Yahudi. Al Ahbar mengusulkan untuk membangun masjid di sebelah utara batu tersebut agar umat Islam dapat menghadap ke arah Ka’bah dan batu tersebut dalam satu garis lurus saat shalat. Namun Umar menolak gagasan itu dan membangun masjid di selatan batu. Pernyataan saksi mata yang pertama diketahui berasal dari Arcluf yang mengunjungi Masjid Al Aqsha pada tahun 670. Berdasar pernyataan Arcluf yang dicatat oleh Adomnán, dia melihat bangunan ibadah kayu persegi panjang dibangun di atas reruntuhan dan dapat menampung setidaknya 3.000 jamaah.
Sejarah Yahudi di bawah kekuasaan Muslim
Namun, sepanjang sejarah, terdapat juga kejadian pembunuhan massal orang Yahudi. Contohnya adalah pembantaian Granada 1066 yang membunuh sebagian besar warga Yahudi di kota Grenada pada tahun 1066. Di Afrika Utara, terdapat kasus-kasus kekerasan terhadap Yahudi pada Abad Pertengahan, dan di tanah Arab lain termasuk Mesir, Suriah, dan Yaman. Muwahhidun yang telah mengambilalih sebagian besar wilayah Al-Andalus pada tahun 1172 jauh lebih fundamentalis daripada Murabithun dan mereka juga memperlakukan kelompok "dhimmi" secara keras. Orang Yahudi dan Kristen telah diusir dari Maghreb dan Al-Andalus. Dihadapkan dengan pilihan kematian atau menjadi Islam, beberapa orang Yahudi, seperti keluarga Maimonides, lari ke selatan dan timur ke tanah Muslim yang lebih toleran, sementara yang lain menuju ke utara untuk menetap di kerajaan Kristen yang sedang berkembang.