史前：
3100年前黃河流域的部族首領古公太父的兒子太伯和中庸來到江寧天印山（今方山），當時江寧壹帶的原始森林裏遍地鱷魚、螃蟹，人們過著落後的原始生活，太伯的到來帶來了黃河流域先進的農耕技術，帶領江寧百姓過上了富足的農耕生活，於是方山百姓推舉太伯為王。也許太伯奔吳的故事已為大家熟知，但是3100年前方山的開國大典恐怕就鮮為人知了。江寧方山先民尊吳太伯為首領，建立了國家就是吳國。
秦朝：
《景定建康誌》記載，秦始皇時，有善望氣的道士稱，“五百年後金陵有天子氣”。於是秦始皇東遊“以厭當之”，改金陵為秣陵，即阻斷秦淮河水流向，以壞金陵風水（秦淮河名即因秦始皇而來）。而“帝王氣”聚方山，秦始皇選擇鑿方山“斷其氣”。《輿地記》記載了此事，“今方山石硊，是其所斷之處。淮水之流，經其下焉。”與此同時，秦始皇還親登祖龍頂，“執‘驅山鐸’鞭方山、碎天印、斷石壟，以泄王氣”。如今環繞南京城，天下聞名的秦淮河，即因當年秦始皇為破金陵王氣、鑿通方山引淮水入南京而得名。
東漢末
漢末，孫策定江東，在南京的秣陵城打了第壹場硬仗，不僅掛了彩，城也沒攻下。他的主要對手南京土著軍閥笮融不僅善戰，還是南京第壹個佛教徒。當時，秣陵縣城在方山以西的秣陵關，民間傳說笮融被孫策追到方山，落馬身亡，留下笮融倒馬澗的地名。孫策大本營就在方山南麓，就是現今的間西村、間東村。
方山上還有孫權點將臺遺址。
晉
道教因開教祖師“二葛三張”中的葛玄首創洞玄觀於方山山南，葛洪後來又在此隱修。
唐貞觀六年，還並棲巖觀於方山洞玄觀，擴大了它的規模。宋代楊修有《洞玄觀》詩：“葛玄功行滿三千，白日驂鸞上碧天。留得舊時壇宇在，後人方信有神仙。”明時，洞玄觀屬朝天宮管轄。正統十二年，曾受賜《道藏》壹部。民國始廢，是全國歷史最悠久的道觀之壹。
南朝宋
宋文帝劉義隆欲廢太子劉劭，劭起兵殺文帝，嗣立。劉駿（後來的孝武帝）遂發兵討劉劭，殺之，自立為帝。期間，為了抵抗弟弟劉駿的進攻，曾下令決破方山埭，阻止東軍進入建康。
文帝元嘉末年,尚書令何尚之退休後即僦居方山,還寫了《退居賦》以明其誌。何尚之是“贊揚佛教”的著名居士。
孝武帝時,高僧釋法瑗結廬方山,註《勝鬘》及《微密持經》。這是方山與佛教的最早緣起。
南朝齊
南朝齊武帝蕭賾祭天的天壇設於方山，現存天壇遺址。
南朝梁
梁武帝蕭衍時，來自天竺的達摩祖師留在建康期間，曾到方山定林寺舉行佛事活動，方山至今尚保留有“達摩崖”等歷史古跡，為禪宗之祖達摩偃坐之地，故此，在佛教界有“南定林、北少林”之說。
梁末，北齊軍曾繞道方山，從南面大舉進擊建康。
十國南唐
南唐中主為母後修建寶華宮於方山，南宋時移建於城南門外。
南宋
抗金名將嶽飛從建康南撤廣德打遊擊時路過方山。方山還有壹處嶽王臺遺址。
方山大廟是方山的另壹處古跡，始建於南宋，供奉的是安徽廣德籍神靈張渤，屬於地方性的民間信仰。張渤為漢人，有治水之績，被後人奉為祠山大帝，歷朝加封，明初在雞鳴寺的十廟中就有專祀他的祠山廣惠廟，現在東南諸省還有千余座張渤廟。
南宋乾道九年(公元1173年)，鐘山定林寺廢，高僧善鑒重建定林寺於方山。同時時，還建了定林寺塔。定林寺塔專供佛像，不能上人，距今已有834年。因塔身傾斜度比著名的意大利比薩斜塔還大1.3度,達5.3度，是目前世界上現存的“第壹斜塔”。定林寺高僧輩出，佛源廣播，全國佛寺輪藏之祖博大士出於此寺；梁朝時禪宗之祖達摩來中國參禪的第壹道場設於定林寺。所以在中國佛教屆有“南定林、北少林”之譽。
元朝
元末，朱元璋領兵起義，明軍屯兵的馬圍和攔馬長埂就在方山西麓，如今的馬埂村名由此而來。
明朝
方山山頂是玄武巖構成的火山口，從四周的河谷平原望去，山崖壁立，頂部如削，方方整整好似天外之物，故又名天印山。山上灌木雜樹生得茂密，在俗人看來，是出柴火的好去處。樵夫多了，就給遊人瞧出壹道景致——“天印樵歌”。從明代選的“金陵八景”到清代評的“金陵四十八景”，都不會少了它，端的是壹處老牌名勝。洪武時任應天府推官的史謹大概是最早題詠“金陵八景”者，其《天印樵歌》雲：“夾路青山擁翠螺，每聞樵唱隔煙蘿。暗驚鶴夢穿雲杪，細答松聲出澗阿。幾度半酣扶杖聽，有時壹曲傍林過。晚來弛擔長松下，復和巖前扣角歌。”史謹還有壹首《天印夕陽》：“山形如印閣晴空，翠壓秦淮秀所鐘。幾度登臨斜日裏，白雲紅樹影重重。”
方山的泉水也是品茗的佳物，明人在《金陵瑣事》中記了金陵二十四處可烹茶的名泉，方山以八卦泉、葛仙翁丹井獨占兩席。遊人漸多，純粹的紀遊詩也就多了，如明人許谷的《登方山絕頂》：“天印山高四望遙，振衣同上興飄蕭。深巖芨草秋仍茂，絕頂清池旱不消。散睇青巒圍錦甸，舉頭蒼靄接丹霄。洞中卻愛棲真者，不信人間有市朝。”方山的旅遊價值此後漸漸勝過了宗教價值，現在重振方山的規劃正是用了景區的大牌，寺觀只是其中的景點。
清朝
乾隆皇帝弘歷南巡經方山時，曾賦詩贊稱“方阜常棲隱者流，秦淮經下水悠悠”。
方山上有《紅樓夢》作者曹雪芹家的“曹氏祖塋”。
鹹豐六年（1856年）正月，太平天國東王楊秀清率駐皖數萬人移住方山南麓的楊家壩、陳莊壹帶達半年之久，地處山坳裏方圓不過幾裏的小小陳莊當年竟有數萬人駐紮，在這裏，楊秀清扼守天京，兩次挫敗清軍的“江南大營”，雖屢屢獲勝卻也傷亡慘重。戰爭過後，屍橫遍地，人煙斷絕，活著的鄉人都被割去耳朵或在面頰上刺上字，雙方以這種方式辨認敵我。戰爭以他特有的野蠻方式給歷史戳上深深的印記。
1864年6月1日，太平天國洪秀全病逝。6日，十六歲的幼主洪天貴福即位。7月19日，湘軍挖地道用火藥炸塌城墻，沖入天京城（今南京）內。太平軍壹萬多人與敵人展開肉搏戰，壹部分戰死，其余在混亂中突圍。天京陷落，忠王李秀成護衛幼天王洪天富貴舍命突圍，至城外時，君臣被追兵沖散，李秀成僅率二、三殘兵逃至江寧方山下的破廟內躲藏，被當地的村民獲拿，解送清營。8月7日在南京江寧被殺害,終年41歲。
中華民國
1937年4月，國民黨在南京方山成立了國民革命軍裝甲兵團，這通常被視為是中國裝甲部隊之始。這支部隊是壹支多兵種合成的裝甲部隊，而非以前的單壹兵種部隊，其規模也遠勝於國內其他的裝甲部隊。裝甲兵團包括了交輜學校戰車教導營，交通兵第二團所屬裝甲汽車隊等單位，團長杜聿明。
方山留下最多的軍事遺址還當屬抗日戰爭初期的國軍地下工事。當時，保衛南京的外廓陣地在江寧鎮、牛首山、方山、淳化鎮、湯山、龍潭壹線，形成東南向的弧線，由永久性鋼筋混凝土工事、鐵絲網、防戰車戰壕等組成。方山地區尤為堅固，地下工事出入口在山腰的盡頭，居高臨下，背靠絕壁，易守難攻。在1937年12月的南京保衛戰期間，俞濟時七十四軍負責牛首山、方山、淳化壹線。以秦淮河為界，方山、淳化守軍為王耀武五十壹師，牛首山守軍為馮聖法五十八師。駐方山的是五十壹師三O二團，團長程智。該防線的地下指揮所就設在方山定林寺附近（入口離定林寺約100余米，現在可以看到）。但後來此防線未能起到軍事防禦作用，日本人偵破蔣的用意後，避實就虛，繞開方山防線，經南京東湯山攻打中山門。1937年12月13日，壹舉攻陷南京。
1946年秋天，蔣介石壹行攜風水先生，帶羅盤等物曾來方山，在方山東北麓坡地勘察地形，選擇墓地，當時還做了適當標誌。當年蔣介石帶的“風水先生”，就是蔣家座上賓雪竇寺僧人太虛。在方山的北坡營建陵墓，正好與中山陵形成“對陵”，呈學生面向老師鞠躬的“師生之禮”。