司馬遼太郎於1923年8月7日出生在大阪。他的原名是福田健壹，筆名取自“遠不及太郎司馬遷”的意思。司馬遼太郎的祖父原本是壹名日本數學家，但在明治初年，他搬到大阪，成為壹名商人，賣糕點。他的父親是大阪的執業藥劑師。在最像商人的地方做生意，最重要的是要有理性的商業頭腦。這壹特點對司馬遼太郎產生了深遠的影響。在他的小說中，他常常以冷靜理性的歷史觀審視主觀非理性的意識形態。所以有人稱他的歷史小說為“非意識形態”的歷史小說。
從十三歲開始，司馬遼太郎經常去大阪市立圖書館廣泛閱讀。到他大學畢業的時候，他已經差不多讀完了圖書館的書。他的好朋友寺裏大吉回憶說，司馬遼太郎在報社工作時曾住在他家。他每天去報社上班的時候，總會撕下壹頁百科全書來背誦。
十八歲進入大阪外國語學校蒙古語系，著名作家陳比他高壹屆。二十壹歲被叫到東北的戰車連。他在大學的專業和後來在中國的經歷無形中影響了他的寫作風格。本來日本作家就不擅長描寫大時代的社會動態。如果他們抱著看俄國小說或法國小說的心態看日本小說，壹定會大失所望，因為日本作家只擅長描寫自己內心的感受和身邊的瑣事，被稱為“私小說”，自認為是日本小說的特點。如果我們看了托爾斯泰的小說，再看“私小說”，肯定會打瞌睡。
然而，司馬遼太郎的小說具有從空中俯瞰偉大時代的特點，這壹特點吸引了無數日本讀者。筆者認為這種特質與他的蒙古學有很大關系。因為生活在沙漠中的人們為了辨別方向，尋找水源，關心地平線以外的世界，他們總是把自己的視點像鷹壹樣懸掛在天空的某壹點，向下看。這種觀點自然和屬於森林文化的日本大相徑庭。事實上，司馬遼太郎非常喜歡蒙古。除了遊歷蒙古，他早期的作品，如《波斯的幻術師》、《戈壁的匈奴》，晚年的《韃靼熱錄》，都是描寫北方騎人的作品。
從1946年到1961年，他擔任新日本新聞社和產經新聞的記者。記者這個職業可以說是他歷史小說的起源。他曾對朋友說：“如果有來生，我要當記者。”然而，與大多數記者不同的是，他對豐富自己的知識樂此不疲，而且因為他屬於文化部門，所以他經常訪問大學和修道院，獨自研究保存在修道院的古籍，並與大學教授交朋友。通常歷史小說的作者只是搜集文獻，調查當地風光，作為寫小說的準備。不僅如此，司馬遼太郎在去歷史事件發生的地方時，必須像記者壹樣問當地居民，“妳出生在哪裏？妳知道事件的傳說嗎？”。