昭君墓最早記載，見於盛唐時的李白、杜甫等人的詩中，如李白的“死留青冢使人嗟”，杜甫的“獨留青冢向黃昏”等，白居易《青冢》詩。可見昭君墓當時不僅早已存在，而且遠近聞名。稍晚於李、杜、白三人的唐代史學家杜估的其所著的《通典》壹書卷179《州郡》中明確記載了呼市青冢的存在。以後歷代史書都有記載。清代關於青冢的記載比較詳細，張文瑞和錢良鐸途經呼和浩特時，還看見琉璃瓦成堆，青冢前有石虎、石馬、石獅、石幢，墓頂有小方亭，亭內有佛畫、細布及豆麥等物。這些表達了當地人民對昭君的眷戀和哀思，經過長期的戰亂，到解放前夕，只剩下孤單墓體和幾尊石碑。