1908年，生於安徽蕪湖。童書業是在舊社會自學成才的，並沒有專業文憑。
30年代初師叢顧頡剛。顧頡剛研究助手和“最知我者”，顧頡剛燕京大學和北京大學教授“春秋史”課的助教，薪金由顧自己支付，食宿也在顧的家裏。
1945年，楊寬在上海博物館工作，聘童書業為上海博物館歷史部主任。
1949年8月，由楊向奎先生引薦，童書業從上海來到山東，應聘為青島山東大學歷史系教授兼文學所研究員。從此壹直到去世，在山大教書這段時間是先生壹生中較穩定的時期，壹些著作也是在這段時間內寫成的。
50年代初，山東大學歷史系曾有過壹個“八馬同槽”的興旺時代，陳同燮、黃雲眉、鄭鶴聲、張維華、王仲犖、趙儷生、童書業、楊向奎八位先生***同執教於山東大學。這不僅為山東大學在史學界贏得了壹個重要位置，而且也為山大歷史的發展奠定了良好的基礎。
童書業恢復學術研究後，將研究方向又轉向古史、古籍的考辨。1961年開始作《中國美術史劄記》。
1968年1月8日，童書業逝世。童書業先顧頡剛而去。童的遺稿《春秋左傳考證》和《春秋左傳劄記》由其師顧頡剛訂正、作序並推薦出版。