中華書局於1912年1月1日在上海創立，創辦人為陸費逵。 初系合資經營，資本25000元，以編印新式中小學教科書為主要業務。中華書局的創建是辛亥革命的產物。1911年辛亥革命前夕，在商務印書館任出版部主任的陸費逵與戴克敦、陳寅等，約請編輯人員秘密編寫新教科書。1912年元旦，中華書局開業後，提出“教科書革命”和“完全華商自辦”的口號，與商務印書館競爭。首先出版新編的《中華教科書》，以其國旗圖案搶占了大部分教科書市場。“於是改公司，添資本，廣設分局，自辦印刷”，後又盤入文明書局、民立圖書公司和聚珍仿宋印書館，迅速發展成為國內民間第二大出版機構。書局成立之時於福州路東首租3間店面。又在福州路惠福裏設立印刷所，不久遷河南路。
1913年設編輯所。沈知方（芝芳）加入，陸費逵任局長（後稱經理），沈知方為副局長，編輯所所長先後有：範源濂、戴克敦、陸費逵、舒新城等。隨後，總公司遷至東百老匯路（今東大名路）AB29號，並租用其旁之民房，設編輯、事務、營業、印刷四所。其編輯所後又移至東百老匯路88號。總店（發行所）先設在拋球場（今河南路南京東路口）。
1915年改為股份有限公司，自辦印刷所，增設發行所；翌年資本增至160萬元，職工達1000余人，繼商務印書館之後成為國內第二家集編輯、印刷、發行為壹體的出版企業。
1916年遷至棋盤街（今福州路河南路轉角）新建的5層樓大廈，店面10間，與商務印書館貼鄰。同年，在靜安寺路（今南京西路）哈同路（今銅仁路）口建成總廠，除印刷所外，總辦事處和編輯所也設於此。總廠占地面積40余畝，居當時上海各印刷廠之首。由於大量購地建房造成資金短缺，加上副局長沈知方挪用公款投機失敗，又因同業競爭，售書賠本，發生經濟危機，幾至停業。書局曾租給新華公司，又曾與商務談判合並而未成。後有常州資本家吳鏡淵等組織的“維華銀團”及董事高欣木等組織的“和濟公司”給予貸款，書局才得以維持。其間，陸費逵曾壹度辭局長職，任司理，由史量才繼任局長，僅兩個月後收回，仍由陸費逵任總經理。
1917年，因資金周轉不靈，幾至停業。經多方設法，營業重獲發展。
1920年前後，書局承接印制克勞廣告公司和南洋兄弟煙草公司煙殼的業務，獲利豐厚。
1929年創辦中華教育用具制造廠，制造教學文具儀器。
1932年擴充印刷所，1933年在九龍新建印刷分廠。
1933年在香港九龍建立印刷分廠，設備之新，號稱遠東第壹。
1935年在上海澳門路建成印刷總廠，購置先進印刷設備，既印本版圖書，也承印地圖、郵票、香煙殼子以及政府的有價證券、鈔票、公債券等。書局大量承印國民黨有價證券和小額鈔票，印刷業務更加發展。同年在澳門路469號建成新廠，總辦事處和編輯所也設於此。
1937年春，資本擴充至400萬元，在全國各地和香港、新加坡開設40余個分局，年營業額約1000萬元，進入全盛時期。
抗日戰爭爆發後，陸費逵赴香港，成立駐港辦事處，掌握全局重要事務；上海方面由常務董事舒新城等主持日常事務，設在公***租界的印刷總廠以“美商永寧公司”的名義維持營業。
1941年7月9日，陸費逵在九龍病逝。隨後太平洋戰爭爆發，領導核心內遷，在重慶設立總管理處。此間，仍然印制教科書，編輯出版各種圖書雜誌。抗戰勝利後，總管理處遷回上海，印制教科書的業務雖迅速恢復，但圖書雜誌出版業務逐漸陷入困境。1941年陸費逵在香港去世後，李叔明繼任總經理，上海方面由吳叔同任經理。抗日戰爭時期，靜安寺老廠印鈔部轉移至香港分廠，澳門路總廠改名“美商永寧公司”，由美籍商人A.F.沃特生任經理。日軍進占租界後，永寧公司被封，第二年才啟封。
1942年2月書局在重慶成立總管理處，抗戰勝利後遷回上海。
1949年2月李叔明離滬，舒新城任代總經理。7月舒新城辭職，沈範繼任。
1954年5月，中華人民***和國成立後，中華書局實行公私合營，1954年總公司遷至北京，同時在上海留有中華書局上海辦事處。
1958年改組為中華書局上海編輯所。同年，國務院古籍整理出版規劃小組成立，中華書局被指定為該小組的辦事機構，成為整理出版中國古代和近代文學、歷史、哲學、語言文字圖書及相關的學術著作、通俗讀物的專業出版社，承擔著國家級古籍整理的基本項目。
2012年中華書局迎來百年華誕，舉行了壹系列慶祝活動。國家郵政發行了特種郵票1枚。