江南圖書館
江南圖書館位於南京城西清涼山下，南京龍蟠裏9號，現為南京圖書館古籍部。
1907年，兩江總督端方決定在惜陰書院校址創辦江南圖書館，繆荃孫出任總辦，地址南京龍蟠裏惜陰書院舊址。1910年8月正式開放，為中國第壹所公***圖書館。1927年後，改為國立中央大學（南京大學）國學圖館，1929年改為江蘇省立國學圖書館，柳詒徵任館長。1952年，國學圖書館和原中央圖書館合並為現在的南京圖書館。
國立中央大學國學圖書館
1927年，因實行大學區制，易名為國立第四中山大學國學圖書館。1928年5月，復更名為國立中央大學國學圖書館。館長柳詒徽。
江蘇省立國學圖書館
1929年10月，大學區制取消，定名為江蘇省立國學圖書館，直屬江蘇省教育廳。建國初期仍沿用此名。由華東軍政委員會文化部領導。1952年10月並入國立南京圖書館。
國立中央圖書館
1933年4月南京國民政府教育部委托蔣復璁籌建，地址成賢街。1937年西遷重慶，1946年返都南京。1948年底，蔣復璁等奉命攜館藏珍籍13萬冊去臺灣。1949年5月，由南京市軍事管制委員會去接管。
國立南京圖書館
1950年3月19日，中央圖書館奉中央文化部令，正名為國立南京圖書館，由文化部文物局和華東軍政委員會文化部雙重領導，館長賀昌群。
南京圖書館
1954年，大行政區已撤消，同時江蘇已經建省，需要壹個省級館，為此，文化部於是在7月將國立南京圖書館改名為南京圖書館，直屬江蘇省文化廳領導至今。1955年起，汪長炳任副館長、館長17年。
南京圖書館新館
南京圖書館新館坐落於市中心大行宮地區，於1998年立項，2002年動工，2006年落成並部分對外開放，2007年實現全面開放。新館占地面積2.52萬平方米，建築面積7.87萬平方米，建築投資4億元人民幣。館內設有讀者座位3000個，信息點4000多個。
南京圖書館新館實行全面免費開放，365天對外服務，開展閱覽、外借、參考咨詢、數據庫檢索、文獻傳遞、館際互借、流動服務、講座、展覽、培訓及各類讀者活動，。