清江浦江的起源可以追溯到春秋時期。吳王夫差從韓城(今揚州)到萬口(今淮安河古鎮)開了壹條溝，為戰爭運糧，連接了長江和淮河，淮安和揚州開始崛起。隋朝時，韓溝成為大運河的重要組成部分，稱為山陽渡。隋唐運河泗州(今盱眙)至楊珊(今淮安區)段，利用天然淮河，航行困難，險象環生。這壹段河道的楊珊灣段(在今天的淮安古淮河段)，由於泗水的流入，水流特別湍急湍急，甚至被視為險路。
到了宋代，淮南轉運使喬沿淮河右岸開鑿了壹條復線運河——沙河，連接磨盤口(今淮陰船閘附近)至古木口，使船只可以繞過險要的灣段。雍熙元年(984)至元豐七年(1084)，分階段修建復線運河，陸續通航。從此“免於溺水”。清江蒲河的前身沙河，在宋代起著重要的水運作用，元代以後逐漸淤塞。
從李贄的代表作《幼美，玉衰，清江浦外》可以推斷，“清江浦”之名出現於北宋。《明太宗實錄》、《明史河渠誌》、《草川誌》等文獻也可以證明，在明朝永樂十三年(1415)陳玄開埠之前，已將“清江鋪”作為沙河舊航道的名稱，並已建清江槽造船廠。