在文學方面，對古代小說、戲劇、傳記、雜文都有廣泛而深遠的影響。
首先，從整體上看，《史記》作為中國第壹部以描寫人物為主的大型作品，為後世文學的發展提供了重要的基礎和多種可能性。《史記》中所寫的歷史雖然有真實的人物，但實際上是通過“相見”來打出來的，即突出人物的壹些主要特征，對比不同的人物，編造細節。在各民族的早期文學中，都有這樣壹種現象，這是人類通過藝術手段認識自己的壹種方式。只是中國文學中的原始類型化人物出現在歷史作品中，情況比較特殊。因此,《史記》為中國文學建立了許多重要的原型。在後世的小說和戲劇中，皇帝、英雄、俠客、官員等許多人物都是由《史記》中的人物演變而來的。
小說方面，除了人物類型之外，其體裁和敘事風格也明顯受到《史記》的影響。中國傳統小說多以“傳記”為名，以傳記的形式發展，有傳記的開頭和結尾，有人物生活的自始至終的脈絡，有嚴格按時間順序排列的情節，有作者的直評。所有這些重要特征主要來源於歷史記錄。
有很多歷史小說直接取材於史記。在戲劇方面，由於《史記》的故事戲劇性強，人物鮮明，沖突尖銳，自然成為後人從戲劇中取材的寶庫。據統計，只有16種元雜劇是根據歷史記載改編的，其中包括具有世界影響的代表作《趙氏孤兒》。類似的作品失傳的肯定更多。在後來的京劇中，還是有很多取材於歷史記載的，比如大家熟知的《霸王別姬》。
在傳記文學方面，由於《史記》的傳記風格為後人所繼承，產生了大量的歷史人物傳記。後世史書的文學性顯然不如《史記》，但其數量龐大，如果摘錄優秀的傳記，也是非常可觀的。此外，其他傳記、家族傳記、墓誌銘等傳記形式也與《史記》開創的傳記文學傳統有關。
在史傳以外的散文方面，由於魏晉南北朝和初唐時期駢文的盛行，《史記》的影響還不明顯；中唐以後，由於韓愈等人倡導的古文運動、北宋歐陽修等人倡導的文體革新運動以及明代前後七子倡導的文學復古運動的不斷推動，《史記》的影響與日俱增，被視為與駢文相對的“古文”的崇高典範。唐宋八大家，明代歸有光，乃至清代桐城派、陽湖派的散文家，都在《史記》中寫過文章。當然，這些作家推崇《史記》的原因以及學習《史記》的得失都很復雜，只能在以後的相關章節中分析。