陰山地區人類活動的歷史非常悠久，是內地漢族與北方遊牧民族交往的重要場所。山脈間寬谷多為南北交往的通途。例如位於呼和浩特西北的古途白道，古人以其路口千余米土色灰白，故名。北魏時曾在南端設立白道城。陰山山區現存名勝有昭君墓（青冢）、戰國趙長城、高闕雞鹿塞、武當召（漢名廣覺寺）、美岱召、百靈廟等。古今有許多著名詩句描寫此山。如北朝最具代表性的著名民歌之壹“敕勒川，陰山下，天似蒼穹，籠蓋四野。天蒼蒼，野茫茫，風吹草低見牛羊”；又如唐代詩人王昌齡的“但使龍城飛將在，不教胡馬度陰山”等名句，都如實地描寫了歷史時期陰山的風光和人類活動。
早在公元5世紀時，境內的陰山巖畫就被北魏地理學家酈道元所發現。他在著名的《水經註》中作了詳細的記述。這些記載是世界上對陰山巖畫最早的記錄。然而在其後的若幹世紀裏，再沒有人去問津。直到上世紀30年代未，中瑞西北科學考察團才發現了幾幅巖畫。對巖畫的全面考察是從1976年開始的。此後，每年都有許多專家、學者和遊人來考察和參觀，先後***發現巖畫壹萬多幅，其中做過拍照和臨摹的巖畫有近千幅。
陰山巖畫是中國已發現的巖畫中分布最為廣泛，內容最為多樣，藝術最為精湛的巖畫，不僅是世界上最早發現的巖畫，也是世界上最豐富的巖畫之壹，是中國最大的巖畫寶庫。現存陰山巖畫的絕大部分分布在巴市地區，最大的面積達400平方米，真實地記錄了在此生活的古代北方匈奴、敕勒、柔然、鮮卑、蒙古等遊牧民族的生產、生活歷史。五虎圖是陰山巖畫的代表作。
陰山巖畫大多取材於遊牧民族的狩獵活動，其中數量最大，鑿刻最精致的是動物巖畫。畫中動物有山羊、綿羊、盤羊、羚羊、巖羊、大角鹿、白唇鹿、赤鹿、麋鹿、駝鹿（罕達猂）、麅子、馬、騾、驢、駝、牛、野牛、羚牛、狗、龜、野豬、兔、狐貍、蛇、狼、虎、豹等。其次，巖畫中狩獵的畫面也占有重要地位，數量可觀，藝術地再現了史前巴彥淖爾地區各民族的社會生活，是整個巖畫中最絢麗的部分。狩獵畫中表現了各種各樣的獵手、武器及狩獵方式，無論獨獵或眾獵，還是引弓射獵或圍捕野獸的場面，都表現其最緊張的壹剎那，再現獵手對野獸致命處的打擊過程，表現出獵人獲得獵物的強烈願望和高超的捕獵技能，也反映出原始人類的文化藝術來源於人類同大自然的鬥爭這壹規律。
除動物畫和狩獵畫外，放牧畫也占有較大比例。放牧畫產生於青銅器時代晚期，並壹直延續到元、明、清三代。雖然年代相距甚遠，但其內容卻大體相近，如出牧圖、倒場圖、壹條鞭式和滿天星式牧羊圖、牧馬圖。這些放牧方式即使在今內蒙古草原上，仍然比較流行。此外，人物舞蹈、車輛及出行騎士、騎士列隊、征戰圖、穹廬氈帳、人面形、人手足印、獸禽足印、原始數碼、圖畫文字、星圖，以及反映原始宗教的神靈圖象，在整個巖畫中也占有壹定的比例，它們均反映了原始民族和部落的淳樸思想意識和社會生活。特別是幾處天體星象巖畫，在世界巖畫中也是罕見的。