1912年1月，民國肇始，遂更名為省立圖書館。同年夏至次年春，毛澤東曾在這裏自學，他後來回憶說：“……但在我學習生活中最有收獲的時期卻是在湖南圖書館自學的半年。”
1926年，湖南教育會圖書館改名為中山圖書館，何叔衡任圖書館主任。翌年初，省立湖南圖書館並入，名為湖南省立中山圖書館。
1928年湖南聞人傅熊湘任館長，進行藏書整理，編印《湖南省立中山圖書館書目》。1929年購入著名藏書家葉德輝家部分藏書，1930年初擴建館舍，增設分館，至1938年初，藏書增至15萬多冊。1938年10月19日，日寇飛機轟炸長沙，館舍成為壹片廢墟，不得不輾轉遷徙辰溪、湘潭、沅陵等地，1946年3月方遷回長沙。由於戰爭頻仍，民生雕蔽，本館叠遭罹難，難以為繼，直至1949年8月湖南和平解放後才得以絕處逢生。
1953年更名為湖南省中山圖書館，加強了讀者服務，特別是為科學研究工作者服務和書目索引的編制工作以及業務輔導。1956年和1957年先後接受湖南省文物管理委員會撥來古籍30冊，其中不少是珍貴的歷史文獻。1966年9月復名湖南圖書館，1970年10月更名為湖南省圖書館。“文革”中，本館的各項工作不可避免地受到“左”的錯誤影響，受到不同程度的影響，但在醴陵縣、株洲市、長沙市辦農村、工廠、街道基層圖書室的典型經驗，對全國圖書館界影響較大。
1984年設於韶山路38號的新館開館1984年建成全國省級公***圖書館第壹座大型的現代化館舍，時任黨中央總書記的胡耀邦同誌為新館題寫館名黨的十壹屆三中全會以後，撥亂反正，正本清源，本館煥發出勃勃生機。1979年，在黨和政府的高度重視下，新館舍在韶山路破土動工，這是全國省級公***圖書館第壹座大型的現代化館舍。1984年12月1日正式對外開放，館名為湖南圖書館，由時任黨中央總書記胡耀邦題寫。館舍建築面積2.93萬平方米，其中主樓2.39萬平方米，包括4層閱覽大樓、12層書庫和地下室。1998年對館舍進行了整體維修，再現當日“長沙白宮”豐采。內設綜合圖書、中文過刊、外文書刊、讀者書屋等外借處，根據文獻分布情況，設有各種規格的閱覽室、讀者學習室30個，閱覽座位1200個。部分外借處和閱覽室實行開架借閱。遵循不斷變化的客觀形勢，書庫和閱覽室的布局也在不斷進行調整，使其更加合理和科學。
湖南圖書館是目前湖南省內最大的公***圖書館，同時亦是長沙市區內的三大公***圖書館之壹（其余兩館為：湖南省少年兒童圖書館、長沙市圖書館）。