Marea Moschee din Sana este situata la est de vechiul sit al Palatului Ghumdan. Urmele istoriei moschii ajung in perioada lui Muhammad. Cladirea a suferit mai multe renovari in secolele urmatoare. O descoperire arheologica importanta a fost manuscrisul descoperit aici, in timpul restaurarii din 1972.

Moscheea a fost construita pe locul Palatului Ghumdan, intre zonele Al - Quati si Al - Sailah. Profetul Muhammad a fost asociat cu planificarea si constructia moscheii in jurul anului 630 AD, desi nu exista nicio dovada care sa sustina acest lucru. Multe dintre descoperirile arheologice descoperite in Marea Moschee sustin constructia sa in epoca cand Profetul a fost in viata. Istoria vietii sale il plaseaza in perioada in care Palatul Ghumdan si Catedrala au fost demolate, iar materialul recuperat de la acestea a fost folosit pentru a construi moscheea.

In perioada 86-96 AH, califul Umayyid Al- Walid I a extins moscheea la dimensiuni mult mai mari. Arcadele interioare de piatra ale acoperisurilor plate ale moscheii sunt declarate a avea caracteristicile bizantine arhitecturale ale Imperiului Axumite. S-au construit si doua minarete: cel pe partea de est fiind construit in secolul al IX- lea, iar al doilea, pe partea de vest, a fost construit in secolul al XII-lea.

Inundatiile au cauzat de doua ori daune semnificative la moschee, dupa care aceasta a fost complet renovata. Pe de alta parte, Karmatis a invadat orasul in 911 si a deteriorat moscheea. Multe restaurari a fost facute in 1130 de catre Regina Arwa ibn Ahmad. Aceasta a fost responsabila pentru plafoanele sculptate elegant. Minaretul din partea de vest a moschii, pe tot Regina Arwa ibn Ahmad l-a construit, este similar cu cel al moscheii din aceeasi perioada construita in Cairo.

Curtea centrala masoara 80 cu 60 de metri, cu sali de rugaciune aranjate in directia nord-sud. Sali cu trei nave aliniate de-a lungul directiei est-vest sunt construite cu materiale din perioade pre-islamice aduse din alte zone.

Proiectele de constructie au diferite interpretari. Un punct de vedere este ca aceasta a fost o structura otomana. Alt punct de vedere afirma ca designul sau ablaq, din diferite materiale colorate dateaza din perioada pre-islamica. Plafoanele din lemn sunt sculptate si pictate. Cladirea a fost folosita pentru a stoca documente si are o biblioteca mare ce gazduieste manuscrise antice.

In anul 1972, cand tencuiala a fost indepartata de arheologi, au fost descoperite manuscrise vechi si pergamente. De asemenea, au fost descoperite douasprezece exemplare vechi ale Coranului, precum si patru mii de manuscrise rare arabe legate de inceputul Islamului, perioada Umayyad. Coranul gasit aici se spune ca a fost scris sau compilat de catre Imam Ali. Biblioteca moschii a pastrat aceste descoperiri. Alte descoperiri arheologice de la Marea Moschee sunt resturi de bolti si vechi cladiri , descoperite in 2006, sub indrumarea dr. Mary Lynn, un arheolog francez .

Marea Moschee este inclusa pe lista Patrimoniului Mondial UNESCO, iar conservarea moscheii de valoare religioasa si istorica exceptionala, a fost sustinuta de Patrimoniul Mondial UNESCO Institutul de formare si Cercetare - Asia si Pacific (Shanghai).