Al-Jami' al-Aqsha
Selama berabad-abad, yang dimaksud dengan Masjid Al-Aqsha adalah keseluruhan kompleks tersebut, yang dianggap sebagai suatu wilayah yang suci. Perubahan penyebutan kemudian terjadi pada masa pemerintahan Kesultanan Utsmaniyah, di mana wilayah kompleks secara keseluruhan disebut sebagai "Al-Haram asy-Syarif"; sedangkan bangunan yang terletak di bagian selatan disebut sebagai Al-Jami' al-Aqsha, yaitu tempat Umar bin Khaththab pertama kali mendirikan masjid di antara reruntuhan. Hadits Imam Ahmad menyebutkan percakapan Umar bin Khattab dan Ka'ab al-Ahbar, di mana Ka'ab menyarankan untuk membangun masjid di belakang batu Ash-Shakhrah, sedangkan Umar menolak dan memilih tempat di sebelah selatan untuk membangun masjid dengan kiblat yang mengarah ke Ka'bah saja, sehingga posisi batu tersebut berada di belakangnya.
Al-Jami' al-Aqsha yang didirikan Umar bin Khattab tersebut, juga berbeda dengan Masjid Umar, yaitu sebuah masjid yang dibangun pada masa kekuasaan Dinasti Ayyubiyah pada abad ke-12, untuk mengenang pengambil-alihan Yerusalem oleh Umar bin Khattab yang mewakili umat Islam. Tradisi setempat menceritakan bahwa pada saat pengambil-alihan tersebut, Umar diundang oleh Patriark Sophonius untuk beribadah di dalam Gereja Makam Kudus, namun Umar memilih mengerjakan salat di luar, di dekat pintu masuk gereja. Masjid Umar terletak bersebrangan dengan Gereja Makam Kudus, di luar kompleks Masjid Al-Aqsha.
Kubah Shakhrah
Setelah kemenangan umat Kristen pada Perang Salib Pertama pada tahun 1099, kepemimpinan Yerusalem beralih ke tangan umat Kristen. Umat Muslim berlindung di Masjid Al Aqsha, tetapi hal tersebut tidak menolong. Gesta Francorum menyatakan “(Orang-orang kita) membunuh dan menyembelih bahkan di Bait Salomo (Masjid Al Aqsha), pembantaian begitu besar sampai orang-orang kita mengarungi darah setinggi mata kaki.” Fulcher, pendeta yang turut serta dalam Perang Salib pertama, menyatakan, “Di Bait (Suci) 10.000 orang terbunuh. Memang, jika Anda di sana, Anda akan melihat kaki Anda diwarnai darah dari orang-orang yang terbunuh sampai mata kaki. Tapi apa lagi yang harus saya hubungkan? Tak satupun dari mereka dibiarkan hidup, baik wanita maupun anak-anak tidak diampuni.” Setelah peristiwa ini, Kerajaan Kristen Yerusalem didirikan. Masjid Qibli diubah menjadi istana kerajaan dengan nama "Templum Solomonis" atau Kuil Sulaiman (Salomo) dan Kubah Shakhrah diubah menjadi gereja dengan nama "Templum Domini" (Kuil atau Bait Tuhan).