據《南嶽》記載，天火王廟建於唐初，南嶽真君廟建於開元十三年(725)，後殿建於宋代大中祥符五年(1012)，多次改建擴建，規模逐漸增大。盾內現存建築有邢星門、蟠龍閣、鄭川門、玉貝閣、嘉應門、榆樹樓、正殿、臥房、後門、東便門、西便門、四角樓等。，占地面積l9.8萬平方米。它也被稱為山東泰安的戴寺和河南登封的中嶽寺，是五大嶽躍寺廟中最大的壹座。主樓又稱正殿，重建於清光緒八年(1882)。歇息於山頂，重檐，高22米，寬七間。大殿內外有72根石柱，象征恒山七十二峰。柱頭雕有木拱門，屋檐下雕刻精美。平臺四周的欄桿上浮雕著花鳥動物。嘉應門、禦碑亭、寢宮等建築至今仍保存有宋、明時期的建築構件，是研究中國古代建築藝術的重要對象，具有較高的歷史和藝術價值。寺東原有的八座寺廟屬於道教，寺西原有的八座寺廟屬於佛教。以前是祭祀南越王的地方，現在是湖南道教宮觀之壹，是重點文物保護單位。
2006年5月25日，南嶽廟作為明清時期的古建築，被國務院批準列入第六批全國重點文物保護單位。