1939年5月，主持成立皖中新四軍江北指揮部，指揮部隊向皖東敵後推進，建立抗日根據地。
1940 10年初，日軍侵占皖南涇縣雲嶺新四軍司令部。他指揮部隊直屬部隊奮力拼搏，擊退敵人。
1941年1年“皖南事變”被國民黨扣留監禁，在那裏寫出了著名的《葉挺獄歌》。
直到抗日戰爭勝利，他才被中央解救，於1946年3月4日獲釋。