اولین تلاش‌های موثر توسط مرتضی قلی‌خان هدایت (صنیع‌الدوله) که رئیس مجلس وقت بود، شروع شد. او دستور داد تا کتاب‌هایی در زمینه‌ی حقوق خرید و جمع‌آوری شود. در ادامه و تا دوره‌ی سوم مجلس، ۲۰۲ جلد از کتاب‌های خطی و کمیاب «میرزا ابوالحسن جلوه» عارف ناصری و بعدتر بیش از هزار جلد از کتاب‌های اهدایی احتشام‌السلطنه را اضافه کرد. در همین دوره ارباب کیخسرو و همراهانش فضایی محدود در کنار حوض‌خانه‌ی ساختمان قدیمی مجلس، معروف به ساختمان مشروطه ساختند تا خیلی زود به مرکزی معتبر تبدیل شود. تلاش‌های دیگر در سال ۱۳۰۲ نتیجه داد و ساختمانی در ضلع شرقی باغ بهارستان، یعنی عمارت عزیزیه (عزیزالسطانی) خریده و قسمتی از آن برای تاسیس کتابخانه‌ای وسیع‌تر در نظر گرفته شود. عزیزیه عمارتی است در دو طبقه با ایوانی زیبا رو به جنوب و پیرایه‌هایی آمیخته به سبک‌های سنتی و نوین معماری که پیشینه‌ی معماری و تاریخی آن با مجلس پیوند خورده است. همین ساختمانی که تصویرش را در عکس‌ها می‌بینید.
این کتابخانه را باید زاده‌ی انقلاب مشروطیت و مجلس در سال ۱۲۸۵ دانست اما اتفاق اصلی سال ۱۳۰۴ رخ داد. در این سال کتابخانه‌ی مجلس به‌عنوان اولین کتابخانه‌ی دولتی و مدرن ایران به‌طور رسمی افتتاح شد. سال‌ها بعد در بهمن ۱۳۴۱، ساختمانی با کاربری چندمنظوره افتتاح شد که در حال حاضر کتابخانه‌ی مرکزی در آن قرار دارد. گنجینه‌های کمیاب و تاریخی از کتاب‌های چاپی، سربی، سنگی و خطی، نشریه‌های ادواری، سند ملی و بین‌المللی، عکس و نقشه‌های تاریخی، منابع شنیداری و دیداری و ... این مرکز را به یکی از معتبرترین کتابخانه‌های ایران تبدیل کرده است.