نسب هذا المسجد إلى العالم الجليل " أبي الحسن علي بن يخلف التنسي "، الذي مارس القضاء تحت حكم السلطان ” أبي سعيد عثمان ” (1283 م - 1303 م ) . إكراماً له لأنه كان من أفضل علماء عهده وأتقاهم .
تصميم هذا المبنى الذي يعود لفترة بني عبد الواد، ذو أبعاد متواضعة بالمقارنة مع تصاميم المساجد المتواجدة داخل المدينة يتميز تصميمه بغياب الصحن والبلاطات الموازية لجدار القبلة .
عرفت البناية تحولات عدة خلال الفترة الاستعمارية :
حول من مخزن للعلف و الخمور ( 1836 م 1848 م )، إلى مدرسة قرآنية سنة 1849م ، ثم إلى مدرسة إسلامية فرنسية سنة 1895م .
في سنة 1900م ، شب فيه حريق، و تقرر تحويله إلى متحف بعد الترميم وبعد صراع بين المهندس Mr Ballou وحاكم مدينة الجزائر .