所以，他壹路走，壹路考察。可以說，司馬遷在漫遊的旅途中，不放過任何壹個懂歷史的人，不放過任何壹個留在人們口口相傳的故事，獲得了許多他從古籍中得不到的史料。同時，他深入民間，廣泛接觸人民群眾的生活，使他逐漸加深了對社會和人生的觀察和理解。
元豐三年(公元前108年)，司馬遷三十八歲時，正式下詔修正史，有機會翻閱了漢朝朝廷藏有的全部書籍、檔案和各種史料。他壹邊整理史料，壹邊參加歷法修訂。太初元年(公元前104年)，中國第壹部歷書《太初歷》成書，他開始撰寫史籍。《史記》講了很多能人的故事。
天漢二年(前99年)，漢武帝派二司將軍李廣利帶三萬兵攻打匈奴，大敗，幾乎全軍覆沒，李廣利逃回。李廣的孫子李陵隨後擔任馬背上的上尉，帶著五千步兵與匈奴作戰。單於親自率領三萬騎兵圍住李陵的步兵。雖然李陵的箭法很好，士兵也很勇敢，但是五千步兵殺了五六千塔爾坎。可汗分配了更多的兵力，但他仍然無法與李陵抗衡。就在可汗準備退兵的時候，李陵的壹名士兵叛變，報告了李陵內部的軍情。告訴可汗，李陵身後沒有援軍，教可汗的手下制作可以反復射擊的弓箭。單於隨後繼續與李陵作戰。最終李陵寡不敵眾，只留下四百多漢兵突圍。李陵被匈奴抓住，投降了。
大臣們譴責李陵不怕死，向匈奴投降。漢武帝讓太史令司馬遷聽聽他的意見。
司馬遷說:“李陵帶的步兵不到五千。他深入敵人腹地，打擊了數萬敵人。雖然打了敗仗，但是他殺了那麽多敵人，他也可以告訴全世界。李陵不肯馬上死，所以他壹定有主意。他壹定是想贖罪，報答皇上。”
漢武帝聽了，認為司馬遷為李陵辯護，是有意貶低李廣利(李廣利是漢武帝寵愛的妃子的弟弟)，勃然大怒，說:“為投降敵人的人辯護，這不是故意反對朝廷嗎？”他把司馬遷關進監獄，交給廷尉審問。司馬遷入獄後，此案落到了當時惡名昭彰的酷吏杜周手裏。杜周對司馬遷嚴刑拷打，司馬遷忍受著各種殘酷的肉體和精神折磨。面對殘暴的官員，他從不屈服，也不招供。司馬遷在獄中不斷自問:“這是我的罪過嗎？這是我的罪過嗎？我是朝臣，不能發表意見嗎？”很快，就傳言李陵帶領匈奴兵攻打漢朝。漢武帝信以為真，草率地殺了李陵的母親、妻子和兒子。司馬遷也因為這件事被判了死刑。第二年，漢武帝殺了李陵全家，司馬遷被閹割。貪腐是奇恥大辱，汙染祖業，結交親友。司馬遷在獄中受辱。“手牽著手，被木繩拴住，暴皮，被單子拴住，隱居在墻裏。這時候看到獄卒就先搶地，看到徒弟就著急。”(司馬遷《包仁舒安》)差點毀了他的壹生。他想死，但想到自己多年收集的資料，說:“人固有壹死，或重於泰山，或輕於鴻毛。”。我有壹個寫史書的夙願，所以為了完成史記的寫作，我不得不忍辱負重，茍且偷生，希望有機會。
太史元年(公元前96年)，漢武帝改元朝，大赦天下。此時司馬遷50歲。出獄後，他成了壹名秘書。在別人眼裏，他可能是“養尊處優”，但他仍然專心致誌地寫他的書。直到該書完成於鄭和二年(91年前)，* * *得130篇，52萬余字。