Al-Jami' al-Aqsha
Selama berabad-abad, yang dimaksud dengan Masjid Al-Aqsha adalah keseluruhan kompleks tersebut, yang dianggap sebagai suatu wilayah yang suci. Perubahan penyebutan kemudian terjadi pada masa pemerintahan Kesultanan Utsmaniyah, di mana wilayah kompleks secara keseluruhan disebut sebagai "Al-Haram asy-Syarif"; sedangkan bangunan yang terletak di bagian selatan disebut sebagai Al-Jami' al-Aqsha, yaitu tempat Umar bin Khaththab pertama kali mendirikan masjid di antara reruntuhan. Hadits Imam Ahmad menyebutkan percakapan Umar bin Khattab dan Ka'ab al-Ahbar, di mana Ka'ab menyarankan untuk membangun masjid di belakang batu Ash-Shakhrah, sedangkan Umar menolak dan memilih tempat di sebelah selatan untuk membangun masjid dengan kiblat yang mengarah ke Ka'bah saja, sehingga posisi batu tersebut berada di belakangnya.
Al-Jami' al-Aqsha yang didirikan Umar bin Khattab tersebut, juga berbeda dengan Masjid Umar, yaitu sebuah masjid yang dibangun pada masa kekuasaan Dinasti Ayyubiyah pada abad ke-12, untuk mengenang pengambil-alihan Yerusalem oleh Umar bin Khattab yang mewakili umat Islam. Tradisi setempat menceritakan bahwa pada saat pengambil-alihan tersebut, Umar diundang oleh Patriark Sophonius untuk beribadah di dalam Gereja Makam Kudus, namun Umar memilih mengerjakan salat di luar, di dekat pintu masuk gereja. Masjid Umar terletak bersebrangan dengan Gereja Makam Kudus, di luar kompleks Masjid Al-Aqsha.
Kota Lama Yerusalem
Yerusalem (utamanya Kota Lama) adalah tempat tersuci ketiga dalam keyakinan Islam Sunni. Untuk sekitar satu tahun, sebelum secara permanen dipindahkan ke Kakbah di Mekkah, "kiblat" (arah salat) untuk Muslim adalah Yerusalem. Kota Lama tidak lagi berpengaruh dalam beribadah umat Muslim, tetapi Kota Lama juga disucikan karena peristiwa Malam Kenaikan Nabi Muhammad (c. CE 620). Umat Muslim percaya bahwa Nabi Muhammad secara ajaib di pindahkan dalam satu malam dari Mekkah ke Kuil Gunung di Kota Lama Yerusalem, yang dinaikkan ke Surga untuk dipertemukan dengan para Rasul dan Nabi sebelumnya dan untuk menerima perintah Salat waktu dari Allah. Dalam "Surat al-Isra" ayat pertama tetcatat bahwa tujuan Nabi Muhammad adalah masjid "al-Aqsa" (tempat paling jauh), Dalam rujukan ke Yerusalem. Dalam Hadits tertulis bahwa sabda Nabi Muhammad, nama Yerusalem sebagai lokasi Masjid Al-Aqsa. Masjid Al-Aqsa, yang disebutkan namanya dalam Al-Qur'an, di bangun di Kuil Gunung dibawah Khalifah Umayyah Al-Walid untuk memperingati tempat di mana umat Muslim percaya bahwa Nabi Muhammad di naikkan ke Surga.