漢初建濟南郡，意為“水之南”，是地理位置形成的地名。吉水，俗稱大清河，發源於河南省濟源市，流域大致相當於黃河山東段。後來由於黃河改道，搶占了河床，成為黃河下遊的主航道。而濟源、濟南、濟陽、濟寧等地名都保存了下來，故名濟南。
2100多年前，漢朝改名濟南(史記)。濟南始建於公元前164年。公元前154年，廢國改郡。