在土地革命戰爭期間，他擔任前敵人軍事委員會的秘書。1929年8月任中央軍委參謀長。1931年底，進入中央革命根據地，任中國工農紅軍總政治部副主任兼第壹方面軍政委。1932後，任紅軍東路軍政委，參與指揮漳州戰役，率部參加第四、第五次反“圍剿”。在遵義會議上，他堅決支持毛澤東的正確主張。
抗日戰爭時期，任八路軍115師副師長兼政委，中央晉察冀分局書記，軍區司令員兼政委。解放戰爭時期，歷任晉察冀軍區司令員兼政委，晉察冀中央局書記，晉察冀中央華北局第三書記，華北軍區司令員，中國人民解放軍副總參謀長，平金警備區司令員，北京軍事管理委員會主任、市長，1949年出席中國人民政治協商會議第壹屆全體會議。
中華人民共和國成立後，歷任中央軍委秘書長兼中國人民解放軍代總參謀長、國防委員會副主席、國務院副總理兼國家科委主任、國防科學技術委員會主任、中國老齡委名譽主任、中國發明協會名譽會長。1966在八屆十壹中全會上當選為中共中央政治局委員。1977、1982當選為中共中央政治局第十壹屆、第十二屆委員。1975、1978擔任全國人大常委會第四、第五副委員長(1980辭去全國人大常委會第五副委員長)。他是第壹屆全國人民代表大會常務委員會委員，第二屆、第三屆全國人民代表大會代表，第七屆至第十屆中央委員會委員。
1955年被授予元帥軍銜，榮獲壹級八壹勛章、壹級獨立自由勛章、壹級解放勛章。
1992於5月在北京逝世，享年93歲。