東晉至梁朝，玄武湖先後有昆明湖、飲馬塘湖、蓮湖、西烏湖、蓮霧湖等名稱。隋唐以後，玄武湖隨著都城北移而逐漸衰落。
宋熙寧八年(1075)，江寧知府王安石準許宋神宗疏湖增地，玄武湖就這樣消失了200多年。經過元大德五年(1301)到鄭錚三年(1343)的兩次疏浚，玄武湖重新出現在南京地圖上。
玄武湖的命運在明朝再次改變。明朝洪武十四年(1381)，朱元璋選擇玄武湖作為明朝中央政府黃皮書的存放地。
土地，後建湖黃圖冊庫(相當於現在的中央檔案館)。玄武湖從此作為禁地與外界隔絕了260多年。
明朝亡後，玄武湖重新對外開放，清朝康熙、乾隆皇帝都曾在此遊覽並留下詩詞。清朝同治以後，玄武湖有了壹些園林建築。兩江總督曾國藩重修涼州湖廟，並在湖中央加建亭子、大仙樓、觀音閣、蓮花廳。晚清大臣左還修建了連接孤嶺和涼州的長堤，解決了遊覽玄武湖時“須從應急門出，令船行”的不便局面。清元年(1909)，段方、張開門(今玄武門)，修築新堤，擴大湖中綠地，許建陶公閣、湖山觀光樓。
民國時期，玄武湖開始有了相應的管理機構，並於1928年9月更名為“五洲宮媛”。1934年4月，五洲公園更名為玄武湖公園，綠化面積進壹步擴大，花草品種增多。宣武堂、諾納塔、上海抗戰紀念塔等壹批建築相繼落成。
解放後，人民政府對玄武湖進行了大規模的擴建和改造，遷出了湖民，廣泛種植花草，增加了更多的景點，面貌煥然壹新。現為江蘇省文明景區示範點、江蘇省環保教育基地、南京市三星級公園、南京市青少年綠色環保教育基地。2005年底，景區獲得國家AAAA級旅遊區稱號。
高層來訪:景區先後接待了、、、、吳等領導。
邦國、黃鞠、錢偉長等壹批黨和國家領導人，以及西哈努克親王、蒙古人民黨前總書記金日成、馬紹爾群島前總統、
越南前國家副主席等國際友人。