ساخت این مجموعه در سال 1258 خورشیدی توسط میرزا حسین‌خان سپهسالار قزوینی صدراعظم دوره ناصرالدین آغاز شد. حسین‌خان سپهسالار در سال 1260 در مشهد وفات یافت از این رو برادرش یحیی‌خان مشیرالدوله، در تکمیل و اتمام آن همت گماشت. پس از درگذشت یحیی‌خان نیز مراحل تکمیل و تزیینات بنا به تدریج توسط نایب‌التولیه‌های وقت انجام یافت.

طراحی مسجد را مهندس مهدی‌خان ممتحن‌الدوله شقاقی انجام داد و معمار آن استاد حسن معمار قمی بود. معماری این مسجد از نزدیک‌ترین تلفیق‌ها میان معماری ایرانی و معماری مساجد استانبول است. مسجد سپهسالار با برخورداری از 10 مناره (بیش از اندازه متداول) و گنبد دوگوش خوابیده، نشان از سبک معماری مساجد ترکیه دارد.

ساختمان مسجد دو طبقه بوده و در هر طبقه حجره‌هایی جهت سکونت طلاب ساخته شده که مجموع آن به 60 حجره می‌رسد. در چهار طرف اضلاع ساختمان، چهار ایوان قرار دارد که ایوان بزرگ اصلی در طرف جنوب واقع شده و منتهی به مقصوره و گنبدی عظیم می‌شود. ابعاد صحن مسجد 61×62 متر است.

از ویژگی‌های مهم فضای مسجد سپهسالار، که در واقع یکی از برجسته‌ترین ابداعات معماری قاجاری نیز به شمار می‌رود، وجود مهتابی‌ها و بهارخواب‌های وسیع در طبقه فوقانی است.

وجه دیگری که به این مجموعه اهمیتی دو چندان می‌بخشد، کتابخانه مسجد است که در سال 1259، سپهسالار با خرید کتابخانه 4000 نسخه‌ای اعتضادالسلطنه، آن را پایه‌گذاری کرد. در حال حاضر گنجینه‌ای با بیش از 4200 کتاب خطی و نزدیک به 10 هزار کتاب چاپ سنگی در این کتاب‌خانه موجود است.

مسجد سپهسالار دارای 3 ورودی در بخش شمالی بوده که به علت احداث کتاب‌خانه ملی توسط مهندس سیحون در سال 1342 مسدود و ارتباط این قسمت از بنا با باغ بهارستان قطع شد.

در دوره‌های مختلف در این مسجد تغییراتی صورت گرفت؛ در سال 1320 در محل گل‌خانه قدیمی، تالاری ساخته شد که امروزه مجموعه دارالقرآن است. در سال 1342 استاد لرزاده تغییراتی در شبستان زمستانی مسجد ایجاد کرد و در سال 1375، مهندس سعیدی گنبد اصلی را مرمت نمود.

بعد از انقلاب اسلامی مسجد و مدرسه سپهسالار به مدرسه عالی شهید مطهری تغییر نام یافت.