魯迅評價他是“史家絕唱，離騷無韻”。
在文學方面，對古代小說、戲劇、傳記、雜文都有廣泛而深遠的影響。
首先，從整體上看，《史記》作為中國第壹部以描寫人物為主的大型作品，為後世文學的發展提供了重要的基礎和多種可能性。《史記》中所寫的歷史雖然有真實的人物，但實際上是通過“相見”來打出來的，即突出人物的壹些主要特征，對比不同的人物，編造細節。在各民族的早期文學中，都有這樣壹種現象，這是人類通過藝術手段認識自己的壹種方式。只是中國文學中的原始類型化人物出現在歷史作品中，情況比較特殊。因此,《史記》為中國文學建立了許多重要的原型。在後世的小說和戲劇中，皇帝、英雄、俠客、官員等許多人物都是由《史記》中的人物演變而來的。
小說方面，除了人物類型之外，其體裁和敘事風格也明顯受到《史記》的影響。中國傳統小說多以“傳記”為名，以傳記體的形式發展，以傳記體的開頭和結尾，以人物的壹生為脈絡，以嚴格的時間順序展開情節，直接評論作者。所有這些重要特征主要來源於歷史記錄。
有很多歷史小說直接取材於史記。在戲劇方面，由於《史記》的故事戲劇性強，人物鮮明，沖突尖銳，自然成為後人從戲劇中取材的寶庫。據統計，只有16種元雜劇是根據歷史記載改編的，其中包括具有世界影響的代表作《趙氏孤兒》。類似的作品失傳的肯定更多。在後來的京劇中，還是有很多取材於歷史記載的，比如大家熟知的《霸王別姬》。
在傳記文學方面，由於《史記》的傳記風格為後人所繼承，產生了大量的歷史人物傳記。後世史書的文學性顯然不如《史記》，但其數量龐大，如果摘錄優秀的傳記，也是非常可觀的。此外，其他傳記、家族傳記、墓誌銘等傳記形式也與《史記》開創的傳記文學傳統有關。
在史傳以外的散文方面，由於魏晉南北朝和初唐時期駢文的盛行，《史記》的影響還不明顯；中唐以後，由於韓愈等人倡導的古文運動、北宋歐陽修等人倡導的文體革新運動以及明代前後七子倡導的文學復古運動的不斷推動，《史記》的影響與日俱增，被視為與駢文相對的“古文”的崇高典範。唐宋八大家，明代歸有光，乃至清代桐城派、陽湖派的散文家，都受到了《史記》的影響。