14歲隨父去上海充格致書店學徒，業余翻譯英文書籍，以其微薄收入購買書籍自學，潛心鉆研先秦墨學和中國古文字學。1920年到濟南任齊魯大學博醫會編輯，翻譯多部醫科書籍。業余仍苦心鉆研墨學，對墨子研究提出“堅白離盈”說，深入闡發墨辯邏輯的豐富內容。對梁啟超《墨經校釋》壹文提出自己的見解，寫成《讀梁公墨經校釋》。梁啟超譽之為“此種發明，可謂石破天驚”。1924年，齊魯大學文學研究會特聘其作研究墨子的專題學術報告，他論及的墨子對光學的發明，引起學者們的極大重視。1924年著《梁任公五行說之商榷》《東方雜誌》。1925年受聘為齊魯大學文學院教授兼國學研究所主任，撰寫《墨子講義》、《論語研究》、《歷代書籍制度考》、《如何承受西方科學》、《守舊的中國》等著述。1936年轉任山東大學教授。創立“字系說”，著“說文解字補正”（10冊20萬字），編印《中國語言百科全書》、《中國語文學》。1940年，回校仍任國學研究所主任和國學教授。1947年，中央研究院第壹屆院士提名表上列名。1952年任職於山東博物館。1957年受聘為山東省文史研究館館長；是年，人民出版社出版他的《墨子研究論文集》。1960年受聘為中國科學院山東分院歷史研究所研究員。1963年被選為中國人民政治協商會議山東省委員會常務委員。1967年將全部家藏古籍4705冊捐獻給國家。1972年病世，終年83歲 。