江南圖書館位於南京城西梁青山腳下的南京龍蟠裏9號，現為南京圖書館古籍部。
1907年，兩江總督段方決定在書院舊址建立江南圖書館，由苗任總經理，地址為書院舊址南京龍蟠裏。1910 8月正式開館，這是全國首家公共圖書館。1927後改為國立中央大學(南京大學)國學圖書館，1929起改為江蘇省郭利學圖書館，劉壹之任館長。1952年，國學圖書館和原中央圖書館合並為現在的南京圖書館。
國立中央大學中國研究圖書館
1927，因實行大學區制，更名為國立第四中山大學國學圖書館。1928年5月，更名為國立中央大學國學圖書館。策展人劉。
江蘇省郭利研究圖書館
1929 10，撤銷大學區制，定名為江蘇省郭利科學圖書館，直屬江蘇省教育廳。這個名字在建國初期還在使用。華東軍政委員會文化部牽頭。1952 10並入國家南京圖書館。
國家中央圖書館
1933年4月，南京國民政府教育部委托桂籌備，地址為成賢街。1937搬到重慶，1946回南京。1948年底，蔣扶余等人奉命帶著13萬冊善本前往臺灣省。1949年5月，由南京軍管會接管。
南京國家圖書館
1950 3月19日，中央圖書館奉中央文化部命令更名為國立南京圖書館，由文化部文物局和華東軍政委員會文化部領導，館長何長群。
南京圖書館
1954年，大行政區撤銷，同時江蘇省成立，需要省圖書館。因此，7月，文化部將國家南京圖書館更名為南京圖書館，直屬江蘇省文化廳領導。從1955開始，王長兵從17開始擔任副館長、策展人。
南京圖書館新館
南京圖書館新館位於市中心的大行宮地區。成立於1998，2002年開工，2006年建成並部分對外開放，2007年全面開放。新樓占地25200平方米，建築面積78700平方米，建設投資4億元。館內有3000個讀者座位和4000多個信息點。
南京圖書館新館全面免費開放，365天對外服務，開展閱讀、借閱、參考咨詢、數據庫檢索、文獻傳遞、館際互借、流動服務、講座、展覽、培訓及各種讀者活動。