1913年9月21日（農歷癸醜年八月二十壹日）生於長沙清福巷本宅。家境比較貧寒，但卻有非常豐厚的文學傳統：曾祖父程霖壽，字雨蒼，有《湖天曉角詞》；伯祖父程頌藩，字伯翰，有《伯翰先生遺集》；叔祖父程頌萬，字子大，有《十發居士全集》；父親程康，字穆庵，有《顧廬詩鈔》，是近代著名詩人和書家成都顧印伯先生的弟子，專攻宋詩，尤精後山。母親姓車，名詩，字慕蘊，江西南昌人；外祖父車賡，字伯夔，僑居湖南，以書法知名當時。詩為其家學，幼承庭訓，十二三歲即通聲律，曾寫詩呈請子其大叔祖和伯夔外祖批改。其叔祖的批語有“詩筆清麗，自由天授”之語，外祖的批語是“有芊眠之思，可與學詩”。兒童時代在其外家度過。
1923年左右，因為軍閥混戰，長沙不易謀生，舉家遷居湖北武昌，在武昌的五年中，曾短期進過武昌聖約瑟中學附屬小學和漢口振華中學，但大部分時間是隨其堂伯父程君碩先生學習，他是程千帆在古代文學方面的啟蒙老師。在1928年秋天以前，程千帆的知識主要來自私塾。伯父名士經，是子大叔祖的長子，自幼才華出眾，以早慧知名，十多歲就出版了他的第壹部文集《曼殊沙館初集》。其伯父私塾名“有恒齋”，學過的主要經典著作有《論語》、《孟子》、《詩經》、《左傳》、《禮記》、《文選》、《古文辭類纂》、《經史百家雜鈔》、《資治通鑒》，其中除《禮記》、《文選》外，都是通讀的。也就造就 了程千帆紮實的文言基礎。
1928年的秋天，從漢口來到南京，考入金陵大學附屬中學初中三年級，在金陵中學學習了四年，1932年8月升入金陵大學。受業於黃侃、吳梅、陳恭祿、虎臣、胡小石（光煒）、劉衡如（國鈞）、劉確杲（繼宣）、胡翔冬（俊）、汪辟疆、商承祚、林公鐸（損）、汪旭初（東）、王曉湘（易）、陳登原、王繩祖諸師。
1936年金陵大學中文系畢業，至四川重慶的西康建設廳任科員。
1940年2月至1941年7月在四川樂山中央技藝專科學校任國文教師。1941年8月至1942年7月任樂山武漢大學中文系講師。
1942年8月至1943年7月任成都金陵大學中文系副教授。
1943年8月至1944年7月任成都四川大學中文系副教授兼金陵大學副教授。
1945年8月起在武漢大學中文系工作，曾任副教授、教授、系主任等職。
1957年被錯劃為“右派”。
1977年發妻沈祖棻去世後，1979年與陶蕓結婚。
1978年8月被聘為南京大學中文系教授。
2000年6月3日10時45分在南京因病逝世，享年八十八歲。
曾任第五、第六屆江蘇省政協委員、九三學社江蘇省委員會委員、國家古籍整理出版規劃小組顧問、江蘇省文史館館長、南京市文聯主席、中國唐代文學學會會長、中國旅遊文學研究會會長、中華大典編纂委員會副主任委員等職。