據史料記載，南宋元年(1225)，興化縣令陳蓋利用重建大小城垛和開挖河道的積土，在縣衙周圍修築土城、東南西北四門和四水門，並在縣衙以北土城南側修築高臺。根據五行方位和“四象”中相應的玄武(龜)，將此站命名為“玄武站”。與此同時，與淮河壹衣帶水的“懷瑾樓”建在“宣武臺”上，意為“攻守”。樓下是真武廟，供奉著被封為順朝“北真武帝”的崇伯滾(於霞之父)的全身雕像。後來，人們為了紀念元代興化縣尹詹世龍造福於民的功績，於元十三年(1276)將詹世龍的“懷瑾樓”稱為管理廳和閱覽室。
由於借土築城、築臺，在玄武階地南部形成壹大片水面，元代稱海子池(今海子河，海子是蒙古語，意為湖)。
明洪武五年(1372)，興化知府謝秀吉命令、蔡德、劉等數千戶捐巨款，沿原土城外圍修築長40厘米、寬20厘米、厚10厘米、重10公斤的磚。這樣，依托重檐飛檐磚城的“玄武臺”上的“懷瑾樓”就更有氣勢，成為興化城墻上的第壹高樓。與此同時，謝知縣在四個城門上修建了四座高大的城樓。其中，威武門(西門)上的“看山塔”(意為朝西望“陽山落日”景區)、昭奎門(北門)上的“楊晨塔”(意為仰望季晨，即北極星)和依城而建的“玄武臺”上的“懷瑾塔”，都是相互靠近，形成壹座金字塔。
明朝洪熙元年(1425)，“五代元老”高古，據《詩經》記載，“始靈臺，後營。老百姓抨擊，沒幾天就完成了。景區再次更名為玄武靈臺，旨在贊美玄武靈臺是中國最早的園林建築——周文王靈寇。同時，他將該景點列入“昭陽十景”，並寫詩稱贊:“高泰北極千古長，廟堂近水岸...願居民們永遠避難，年年推薦。"
明朝嘉靖十四年(1535)，興化知府通過疏浚海子池和護城河的泥土，擴建拓寬了玄武靈臺的臺基，根據《論語》“德治如北辰，居其所，而眾星拱之”和《舊唐書》葉太堯分光華制珠拱極，
明朝萬歷九年(1581)，興化縣令淩鄧英在“昭陽十二景”中增加了“玄武靈臺”景點，並賦詩壹首:“詹公在宋，亂中失位......並說永遠為他的土地奠基，我回壹千年家。”
南明弘光元年(1644)秋，駐守揚州的反清英雄史可法及其養子、副將軍史德威到興化視察城防，登上“公基臺”察看地形，將“懷瑾樓”改名為“廣海樓”，並即興題詞“廣海樓”掛樓上。清順治二年(1644)後，此碑被取下，30年代又重新立起，1945年毀於戰亂。
清康熙年間(1662至1722)，為避諱康熙葉璇皇帝，將玄武靈臺景區改為武鶯靈臺。目前，公濟臺公園前牌坊額上的四個楷體字“武鶯靈臺”是仿清末民初興化書法家石先生的手跡。
清康熙二十五年(1686)，夏二十八年(1688)，孔子第六十四孫、國子監博士孔在同工信部侍郎時，以“公基臺”為閣，題詞“廣海樓”。同時，他利用閑暇時間創作了歷史傳奇劇《桃花扇》的第二稿，成為中國文學史上乃至世界戲劇史上的壹段佳話。
清同治六年(1867)，時任興化縣令的浙江殷珊(今紹興市)人余林年，參照家鄉西北角杭州西湖美景，重修了“公基臺”，將景區擴大到相當規模，使鄭板橋原來的“海光樓”寫成“六七月無暑”。改寫“後半夜有漁歌”的對聯，做成對聯掛在“廣海樓”上。同時，他們自己寫下“每逢下雨天，總倚陽臺望北極，憶西湖”的對聯，並將“玄武靈臺”稱為西湖景觀。
在海子池南面的綠島上，有許多園林建築，成為“玄武靈臺”景區不可或缺的壹部分。南側有南明右都禦史李昌謙在其曾祖父狀元宰相李春芳所創園林的基礎上擴建的“滿園”(現為實驗小學)。它由建築和景點組成，如李春芳建造的延慶亭和李長乾建造的竹林和苔蘚山。滿園之西，是李春芳孫明禮部尚書李思成所建的棗園(今該市人武部，東至吳穎路中段)。園內有水明樓、杏花樓、土庫樓、步亭、蓮寧齋等建築，其中幾棵參天棗樹象征著主人壹心報國的胸懷。南明滅亡後，李春芳的玄孫、著名學者李清隱居棗園40年，《杜門纂修》、《三元註》、《杜南錄》成為“南明史料中的瑰寶”。棗園東側是枋湖島，被稱為道教“東派”始祖的阿明學者北海草堂(後改建為盧希安廟，現為老幹部局松鶴樓)在此生活和寫作40余年。明朝隆慶時期(1567-1572)，陸西行在這裏創作了壹部小說《封神演義》。
“玄武靈臺”景區形成於南宋初至清末民初，尤其是明清時期。先後新建、擴建10余次，先後修建了艾毅廟、靜賢廟(後改為曲子廟)、昭陽書院、綠波閣、紀念碑堂等建築，受到100余名各級文人士大夫的謳歌和贊美。同時還制作了清代同治六年(1867)進士余林年整理的《宮吉臺與興化宮吉臺詩文集》和具有世界影響的孔名劇《桃花扇》，極大地豐富了玄武靈臺景區的文化內涵和歷史背景，使其成為與揚州平山堂、高郵齊名的旅遊勝地。