Al-Jami' al-Aqsha
Selama berabad-abad, yang dimaksud dengan Masjid Al-Aqsha adalah keseluruhan kompleks tersebut, yang dianggap sebagai suatu wilayah yang suci. Perubahan penyebutan kemudian terjadi pada masa pemerintahan Kesultanan Utsmaniyah, di mana wilayah kompleks secara keseluruhan disebut sebagai "Al-Haram asy-Syarif"; sedangkan bangunan yang terletak di bagian selatan disebut sebagai Al-Jami' al-Aqsha, yaitu tempat Umar bin Khaththab pertama kali mendirikan masjid di antara reruntuhan. Hadits Imam Ahmad menyebutkan percakapan Umar bin Khattab dan Ka'ab al-Ahbar, di mana Ka'ab menyarankan untuk membangun masjid di belakang batu Ash-Shakhrah, sedangkan Umar menolak dan memilih tempat di sebelah selatan untuk membangun masjid dengan kiblat yang mengarah ke Ka'bah saja, sehingga posisi batu tersebut berada di belakangnya.
Al-Jami' al-Aqsha yang didirikan Umar bin Khattab tersebut, juga berbeda dengan Masjid Umar, yaitu sebuah masjid yang dibangun pada masa kekuasaan Dinasti Ayyubiyah pada abad ke-12, untuk mengenang pengambil-alihan Yerusalem oleh Umar bin Khattab yang mewakili umat Islam. Tradisi setempat menceritakan bahwa pada saat pengambil-alihan tersebut, Umar diundang oleh Patriark Sophonius untuk beribadah di dalam Gereja Makam Kudus, namun Umar memilih mengerjakan salat di luar, di dekat pintu masuk gereja. Masjid Umar terletak bersebrangan dengan Gereja Makam Kudus, di luar kompleks Masjid Al-Aqsha.
Kubah Shakhrah
Menurut beberapa ulama, batu yang sekarang berada dalam naungan Kubah Shakhrah adalah tempat pijakan Nabi Muhammad naik ke langit saat peristiwa "isra' mi'raj", sedangkan beberapa lagi menyatakan bahwa tempat pijakan tersebut berada di Masjid Al Qibli. Saat Umar diberi usulan oleh Ka'ab untuk membangun masjid di sebelah utara Batu Fondasi agar dapat menghadap ke arah Ka'bah dan batu tersebut secara bersamaan saat shalat, Umar justru menanggapi bahwa perbuatan itu menyerupai Yahudi dan membangun masjid di sebelah selatan batu tersebut. Lebih lanjut, Umar menyengaja agar mihrab masjid yang dibangunnya tidak segaris dengan Batu Fondasi dan Ka'bah. Hal ini karena berdasarkan yurisprudensi Islam, setelah arah kiblat berpindah, maka Kab'ah di Mekkah telah menjadi lebih penting daripada Batu Fondasi tersebut. Meski begitu, Masjid Al Aqsha secara keseluruhan sendiri disebutkan memiliki beberapa keutamaan yang tidak dimiliki masjid lain sebagaimana yang disebutkan dalam beberapa "hadits", sehingga meskipun sudah tidak lagi menjadi kiblat shalat umat Islam, kompleks Al Aqsha secara umum dan Kubah Shakhrah secara khusus tetap dipandang suci oleh umat Islam.