關於汾河的最早文字記載是《山海經》：“管涔之山，汾水出焉。”之後，《水經註》：“汾水出太原汾陽北管涔山。”《漢書·地理誌》汾陽：“北山，汾水所出。”《括地誌》：“汾水源出嵐州靜樂縣北三十裏管涔山。”可見，古籍中多有汾河源頭記載，均指向山西省北中部的管涔山，但具體位置語焉不詳。
1992年12月由山西省水資源管理委員會編著、山西人民出版社出版的《山西水資源》（P-5）：汾河“發源於管涔山、寧武縣東寨鎮的雷鳴寺泉”。1995年中國大百科全書出版社出版的《中國大百科全書》中國地理分冊（P-93）：汾河“發源於省境寧武縣東寨鎮西雷鳴寺泉。”1999年12月，由省史誌研究院編著、中華書局出版的《山西通誌·水利誌》（P-29）：“汾河是山西境內第壹大河，發源於寧武縣境內管涔山腳下的雷鳴寺泉。”2004年9月科學出版社出版了由李英明、潘軍峰主編的《山西河流》（P-25）：“汾河發源於寧武縣東寨鎮管涔山脈樓子山下水母洞，和周圍的龍眼泉、象頂石支流匯流成河。”由省水利廳編著、山西人民出版社2006年1月出版的《汾河誌》（P-2）：“今日汾河，發源於山西省西北部寧武縣境內管涔山脈南麓東寨鎮北樓子山腳下的雷鳴寺泉，此處豎立有‘汾源靈沼’石碑壹尊，被視為汾河之正源。其實汾河真正的源頭還應從正源雷鳴寺泉向北向西上溯16公裏，至岔山鄉宋家崖村之西北與五寨縣交界處。”
2011年，山西省水文水資源勘測局在承擔國務院下達的、與全國同步的河湖普查任務（第壹次全國水利普查）時，利用1:5萬國家基礎地理信息、衛星遙感影像圖、2.5米影像數據和其他資料，多次上下交互確定，然後通過“自上而下與自下而上相結合”的方式，與國務院普查辦、流域普查辦及市、縣級普查辦進行了大量溝通協商，制定普查指標和表格，下發到基層填報、處理、匯總、審核、上報，最後再次進行審核、評估、確定，形成了普查成果，確定了從神池縣延伸過來的壹條溝道為汾河源頭，該地處於神池縣太平莊鄉西嶺村管轄，位於歷史水文認定的雷鳴寺泉上遊。 汾河發源於神池縣太平莊鄉西嶺村，流經（忻州市）寧武、靜樂、（太原市）婁煩、古交、萬柏林、陽曲、尖草坪、杏花嶺、迎澤、晉源、小店、清徐、（呂梁市）文水、孝義、（晉中市）祁縣、平遙、介休、靈石、（臨汾市）霍州、洪洞、堯都、襄汾、曲沃、侯馬、（運城市）新絳、稷山、河津、萬榮6市29縣（市、區），全長713公裏，流域面積39721平方公裏，在萬榮縣榮河鎮廟前村匯入黃河。
汾河幹流具體流向情況是：
汾河出源頭，左岸與洪河匯合後改為西南流，再南流出寧武縣，進入靜樂縣境內。汾河過靜樂縣城區，西南流左岸接東碾河、右匯西碾河，下過靜樂水文站，南流進入婁煩縣。在靜遊鎮東北500米處匯入上遊最大支流嵐河。汾河過靜遊穿過壹段長約4千米的石灰巖峽谷河段，到達汾河水庫，水庫壩址在杜家曲村。汾河在龍尾頭進入古交市境內，接納了天池河、獅子河、屯蘭河、大川河，過古交市區到寨上水文站，其下因受石千峰阻擋，汾河流向改為東，河道迂迥曲折，峽谷夾岸，在河南村下遊流出古交市。壹直向東北流去，至柏崖頭汾河右岸接納柳林河後便進入汾河二庫庫區。出汾河二庫流向改為東南。至此為上遊段。
汾河出蘭村峽谷，有蘭村泉匯入，下遊500米，有汾河壹壩引水樞紐工程，它是汾河中遊幹流河道唯壹的攔河堆石溢流壩，是在古代水工建築基礎上多次改建而成的現代水利灌溉工程汾河灌區的上遊引水口。汾河過壹壩南流，至南北固碾村附近左岸接納楊興河。汾河再南流進入太原城區。該段兩岸從勝利橋上遊155米至南內環橋下遊125米，全長6千米，於1996年至2000年連續進行了大規模的全面綜合整治與美化，建成帶狀的濱河勝景，改善了城市環境。
汾河出太原城區南流，西南25千米懸甕山下，有晉祠泉匯入。汾河再西南流，瀟河註入。汾河再下進入清徐縣境。經汾河二壩，出清徐，流淌於祁縣、文水縣之間。汾河在祁縣境內左岸，昌源河匯入，匯入之前接納了象峪河（古稱象谷水）和烏馬河。
汾河至新堡附近流入平遙境內。汾河入平遙縣境在蔣家堡附近過汾河三壩，該壩是汾河中遊河道下端壹處引水樞紐工程，向汾河灌區供水。
汾河入介休界先後有磁窯河和最大的支流文峪河匯入。於洪相村下遊西北接納龍鳳河。汾河西南流6千米過義棠水文站東南流出介休。
汾河出介休西南流至靈石縣地界，曲行10余千米到達縣城。在縣城上遊1千米左岸接納靜升河，過縣城向下遊南流1千米幹流突成90度彎折向西流，後有雙池河匯入。汾河在此間迂迥穿行在靈霍山峽間。相傳在遠古時代，大禹治水曾路過此山峽，見其峽窄谷淺，便帶領民眾奮力劈山斬石，疏浚水道，使汾河順利穿過。民間廣為流傳的“打開靈石口，空出晉陽湖”就說的是這段故事。汾河在王莊進入霍州市境內。南流有郭莊泉水匯入。
汾河入洪洞縣境內，進入下遊段。拐向南偏西流，再下到達左岸的趙城鎮。汾河再南流到洪洞縣城城北折向西流於左岸匯入洪安澗河和霍泉匯入。
汾河從洪洞出境到韓村進入臨汾市區，有喀斯特大泉龍祠泉。汾河在臨汾南流後折向西流再折向南流，在左岸接納發源於東部山區的澇河和巨河的合流。汾河再南流，進入襄汾縣境。汾河在襄汾境內有兩條洪水峪溝從西部山區進入平川區入汾河。壹為豁都峪，壹為三官峪，均屬季節性洪水澗河。
汾河出襄汾經曲沃縣、侯馬市邊境。汾河在此幾經流轉，進入新絳境內，有澮河自左岸匯入後，流向基本折向西流。又有三泉河自右岸匯入，上遊有鼓水灌區。
汾河進入稷山縣境，幹流河道在此呈南北較大幅度的擺動，行至底史村北出稷山縣境進入河津市。再向西流進入寬廣平緩的汾河入黃口。汾河河道因受黃河東侵奪汾之勢的影響，時常呈南北向上下移動變遷。遠至萬榮縣榮河鎮廟前村故道入黃，近至上移到河津中湖潮東湖潮壹帶入黃。