مسجد جامع ساوه از اولین مساجدی است که در ایران ساخته شده و طی دوره‌های مختلف به تدریج توسط هنرمندان ایرانی تزئین و مرمت شده‌است. حدود هزار سال پیش چند نفر از اهالی منطقه و از معماران هنرمند، طرح ساخت مسجد را می دهند و سپس خودشان دست بکار می شوند و با کنار هم گذاشتن خشت‌های گلی آفتاب خورده، چند شبستان را دور تا دور یک حیاط مستطیل شکل بنا می کنند. باستان‌شناسان معتقدند این مسجد یکی از اولین مسجدهای ساخته شده در ایران می باشد؛ هرچند مسجد کهنسال در گذر سال ها و قرن ها به گونه ای تغییر کرده که دیگر چیزی از آن مسجد اولیه باقی نمانده است. تا به امروز با در کنار هم قرار گرفتن انواع و اقسام تزئینات زیبا بر روی دیوارها و طاق هایش مسجد به موزه ای دیدنی تبدیل شده است. تا به حال سن و سال دقیقی برای این مسجد تعیین نشده اما با پیدا شدن کتیبه هایی در آن، قدمتی حداقل هزار سال را می توان برای آن تخمین زد. با کاوش‌هایی که طی چند سال گذشته انجام شده و با کشف توده‌های گلی و آواری که به دست آمده، کارشناسان میراث فرهنگی معتقدند که در محل کنونی مسجد جامع، مسجدی قدیمی‌تر وجود داشته که قسمتی از مصالح مسجد امروزی از همان مسجد اولیه تامین شده.
در ضلع شمالی مسجد، دیوار خرابه‌های خشتی وجود دارد که احتمالا زمانی دیوار حجره‌های درس و بحث طلبه‌های علوم دینی بوده و حالا محتاج سایبان‌های بالای سرشان هستند تا از گزند باد و باران در امان بمانند.
نقل کتابخانه ای بزرگ با قفسه‌هایی پر از کتاب‌های دستنویس در کتاب «آثار البلاد و اخبار العباد» آمده است که متعلق به این مسجد تاریخی می باشد. این مجموعه که به وزیر ابی طاهر خاتون منسوب است، محل نگهداری اشیای باارزشی از جمله اسطرلاب، گوی و کتاب‌های خطی بوده است که در حمله مغول در شعله های آتش سوختندُ.
