يعد هذا المسجد موقعًا مهمًا تاريخيًا بشكل خاص، حيث كان أول مسجد يُبنى في إفريقيا (641-642 م).
كان المسجد موطن خيمة اللواء عمرو بن العاص قائد جيش المسلمين آنذاك. إنه أيضًا مقر قبر ابنه عبد الله بن عمرو بن العاص.
كان المسجد أول جامعة حقيقية في العالم كله ومركزًا للتعلم والتعليم، على الرغم من أنه لم يعد يخدم هذا الغرض. تم توسيع الموقع وإعادة بنائه على مر السنين.