Skryf'n voortsetting vir hierdie paragraaf - Na die Moslem verowering van Damaskus
In 634 is die moskee gebou op die plek van 'n Christelike basiliek wat toegewy is aan Johannes die Doper, wat deur Christene sowel as Moslems as 'n profeet vereer word. Volgens' n legende wat uit die sesde eeu dateer, bevat die gebou die kop van Johannes die Doper. Twee heiligdomme ter herdenking van Husayn ibn Ali (r.a.), wie se martelaarskap dikwels vergelyk word met dié van Johannes die Doper en Jesus Christus, bestaan binne die gebou. Moslems glo ook dat die moskee die plek is waar Jesus sal terugkeer voor die Einde van die Dae. Die mausoleum met die graf van Saladin staan in 'n klein tuin langs die noordmuur van die moskee.