胡大海堅韌而聰明。元末，起於朱元璋的壹場起義。渡江後攻占皖南、浙江等地。胡大海率領軍隊打敗了楊，苗向、劉振、李福投降。任江南去省裏參政。守衛浙江金華。雖然不識字，但他可以當下士。他曾向朱元璋推薦過劉基、宋濂、葉晨和張儀。胡大海軍紀嚴明，不殺人不搶女人。
十九年(1359)，朱元璋命樞密院判官耿再成參軍，胡大海領兵取州。
鄭錚二十二年(1362)二月七日，外交部蔣英邀請胡大海到巴戎樓視察士卒演習。大海沒有懷疑他，所以他高興地去了。上馬前，壹個苗跪在馬前說:“蔣英要殺我！”胡大海沒有回答，就是被蔣英用錘子打死了。二兒子胡官同時被殺，耿再成也死了。朱元璋取杭後，殺了蔣英，給胡大海獻了血祭，並寫了壹篇作文作為祭品。
明朝建立後，特賜光祿大夫，追封為越王，死於武莊。