1982，位於府東街的原借閱處及其書庫全部搬遷至新建書庫大樓。下半年正式向讀者開放，同時將府東街書屋打造成兒童閱覽室。
1984年5月，天文臺建在兒童公園，舊二樓被市政府拆除，導致建築面積減少200平方米。
太原圖書館是壹所綜合性公共圖書館。市委、市政府對新館工程高度重視，將其列為加強精神文明建設的重點工程和標誌性工程。項目於5月1997正式開工建設，2000年底基本完工。
2001年9月29日，太原市圖書館新館在1-2層開始試運行。2002年9月30日，新館全面對外開放。