天下名山佛道占，方山也是壹座宗教名山，千百年來為佛道兩教競相開發。尤其是道教，因為開教祖師“二葛三張”中的葛玄首創洞玄觀於山南，葛洪後來又在此隱修，故有特殊地位。唐貞觀六年，還並棲巖觀於方山洞玄觀，擴大了它的規模。宋代楊修有《洞玄觀》詩：“葛玄功行滿三千，白日驂鸞上碧天。留得舊時壇宇在，後人方信有神仙。”明時，洞玄觀屬朝天宮管轄。正統十二年，曾受賜《道藏》壹部。民國始廢，是全國歷史最悠久的道觀之壹。另外，方山上還有南唐中主為母後所建的寶華宮，南宋時移建於城南門外。方山大廟是方山的另壹處古跡，始建於南宋，供奉的是安徽廣德籍神靈張渤，屬於地方性的民間信仰。張渤為漢人，有治水之績，被後人奉為祠山大帝，歷朝加封，明初在雞鳴寺的十廟中就有專祀他的祠山廣惠廟，現在東南諸省還有千余座張渤廟。這個張渤與豬靈崇拜倒有瓜葛，因為他曾化豕拱開瀆山門，所以祭張大帝是不用豬肉的。
佛教的開發，晚於道教，除了上述南朝居士、僧侶的隱居，可考的最早寺廟當在宋代。最有名的是南宋時由鐘山遷來的六朝名剎定林寺，屢毀屢建，歷經坎坷，舊跡唯存八百年的定林寺斜塔。現在只存遺址的海慧寺、東霞寺、寶積庵，在定林寺贈送的《定林寺征聯選集·附錄》中記為六朝古剎，現存的佛典、方誌，均未有記載。海慧寺在山頂石龍池，朱偰《金陵古跡圖考》說是“近年新建”，則屬民國。石龍池倒是明代即有的方山名勝，大旱不涸，現在屬於軍事區。東霞寺在方山東麓，據《金陵梵剎誌》當為定林寺所轄的明代小剎。寶積庵，朱偰說是宋代所建，寺後有宋元高僧塔。解放後調查寶積庵是李秀成被俘處，但據《李秀成自述》寫的“山頂破廟”，則其被俘當是海慧寺所在。
明代的方山，雖有洞玄觀、定林寺兩大領頭的古寺觀，可以掙得些香火名氣，但都是屈居中等的觀剎，折騰不出大名堂。方山山頂是玄武巖構成的火山口，從四周的河谷平原望去，山崖壁立，頂部如削，方方整整好似天外之物，故又名天印山。山上灌木雜樹生得茂密，在俗人看來，是出柴火的好去處。樵夫多了，就給遊人瞧出壹道景致——“天印樵歌”。從明代選的“金陵八景”到清代評的“金陵四十八景”，都不會少了它，端的是壹處老牌名勝。洪武時任應天府推官的史謹大概是最早題詠“金陵八景”者，其《天印樵歌》雲：“夾路青山擁翠螺，每聞樵唱隔煙蘿。暗驚鶴夢穿雲杪，細答松聲出澗阿。幾度半酣扶杖聽，有時壹曲傍林過。晚來弛擔長松下，復和巖前扣角歌。”史謹還有壹首《天印夕陽》：“山形如印閣晴空，翠壓秦淮秀所鐘。幾度登臨斜日裏，白雲紅樹影重重。”除了樵歌，方山的泉水也是品茗的佳物，明人在《金陵瑣事》中記了金陵二十四處可烹茶的名泉，方山以八卦泉、葛仙翁丹井獨占兩席。遊人漸多，純粹的紀遊詩也就多了，如明人許谷的《登方山絕頂》：“天印山高四望遙，振衣同上興飄蕭。深巖芨草秋仍茂，絕頂清池旱不消。散睇青巒圍錦甸，舉頭蒼靄接丹霄。洞中卻愛棲真者，不信人間有市朝。”方山的旅遊價值此後漸漸勝過了宗教價值，現在重振方山的規劃正是用了景區的大牌，寺觀只是其中的景點。