今天，廬江的土地在春秋時屬於蜀國，在戰國時屬於楚國，在秦朝時屬於亦舒，在漢朝時屬於淑賢。廬江縣建立於西漢初年。“廬江縣”的名稱始於隋代(《隋書地理》)，另壹個始於南朝(《太平玉環記》)。兩種理論的時間差只有幾十年。廬江縣成立後，在隸屬關系和地域上都發生了很多變化。
廬江縣在春秋時期屬於蜀國，徐人取蜀後，成為楚國。
秦朝先屬九江郡，後屬衡山郡。
漢代為蜀郡，起初屬淮南衡山郡，後屬衡山郡、衡山縣。梁武帝元壽二年(前121)，江南南部的廬江郡廢棄，新廬江郡位於恒山之東、九江郡之南，蜀郡屬廬江郡。
三國時期分為吳廬江郡(治安徽)和魏廬江郡(治陽泉)。
晉朝，仍屬蜀郡，屬禹州廬江郡(治陽泉)。
南北朝時，督元年(502)，設襄州，改蜀郡為錢，治廬江郡。
隋朝開元年(581)，廬江郡設廬州，遷廬州於合肥。大業三年(607)，廬州改為廬江郡，州縣政府遷至合肥。為了保留舊名，舊政府改為廬江縣。
唐朝開元二十三年(735)，舒城縣分合肥、廬江。
宋代在廬江、潮縣設立武威郡。
到了元朝，縣城還是沿著舊疆域。
明代屬瀘州府；崇禎八年(1635)，農民起義軍何壹龍、馬守英從潮縣越過盛家橋，攻克潞城。崇禎十五年(1642)，張再次攻克潞城。
清朝順治二年(1645)，屬江南局書記瀘州府。順治十八年(1661)，屬江南左政使瀘州府；康熙六年(1667)，左大臣改安徽大臣，廬江郡屬安陸滁河路廬州府。
民國元年(1912)，廬江縣直轄安徽省；民國三年(1914)至民國十七年(1928)遷居安徽安慶路；民國二十壹年(1932)，廬江縣調任安徽省第二行政督察區專員公署(在蕪湖)；民國二十七年(1938)七月改為五區(在含山)；民國二十七年(1938)六月改為三區，10(署駐李荒、廬江、桐城)；民國二十九年(1940)，屬壹區(機構先後駐桐城、太湖、懷寧)；民國三十六年(1947)改為九區(專設潮縣)，5438年6月+2月，將路南磚橋至大武口壹帶劃為桐廬縣；民國三十七年(1948)八月，湖西縣位於巢湖南岸潞河北部。民國三十八年(1949)四月、七月先後廢桐廬、湖西兩縣。
建國後，先屬皖北行署巢湖地區；1952，屬於安徽省蕪湖地區；1958年7月，劃入六安特區；1965年7月，巢湖地區復置，廬江劃歸巢湖地區；2011年8月，經國務院批準，撤銷巢湖市，廬江縣劃歸合肥市管轄。