نسب هذا المسجد إلى العالم الجليل " أبي الحسن علي بن يخلف التنسي "، الذي مارس القضاء تحت حكم السلطان  ” أبي سعيد عثمان ” (1283 م - 1303 م ) . إكراماً له لأنه كان من أفضل علماء عهده وأتقاهم .

تصميم هذا المبنى الذي يعود لفترة بني عبد الواد، ذو أبعاد متواضعة بالمقارنة مع تصاميم المساجد المتواجدة داخل المدينة يتميز تصميمه بغياب الصحن والبلاطات الموازية لجدار القبلة .

عرفت البناية تحولات عدة خلال الفترة الاستعمارية  :

حول من مخزن للعلف و الخمور  ( 1836 م  1848 م )، إلى مدرسة قرآنية سنة 1849م ، ثم  إلى مدرسة إسلامية فرنسية  سنة 1895م .

في سنة 1900م ، شب فيه حريق، و تقرر تحويله إلى متحف بعد الترميم وبعد صراع بين المهندس   Mr Ballou   وحاكم مدينة الجزائر .