呂劍，與“五四”新文化運動同齡。小學時期他曾輾轉聽到過”打倒列強、除軍閥”的歌聲，初中階段才通過文自兼有的國文課本接觸了朱自清、冰心等人的新文學作品。除此而外，他的童年和少年時期所接受的主要是以儒家文化為底蘊的鄉土文化教育。1937年冬天，呂劍和十幾位同伴從濟南啟程，經充州，壹路唱著嚎亮的抗戰歌曲輾轉到達當時的後方大城市武漢，臨時寄居在漢口正街幾間陰暗潮濕的屋子裏，白天跑書店，晚上則如饑似渴地讀書。第二年，已經身為宜昌電報局話務員的呂劍閱讀了更多的書和新詩作品，讀著田間、艾青、臧克家、鄒獲帆、蒲風以及剛剛誕生的《七月》上那些充滿戰鬥氣息的詩作，呂劍開始在巨大的興奮中醞釀自己的作品。1938年夏天的壹個不眠之夜，呂劍寫出了生平第壹首新詩《黎明》，發出了“太陽，頂著黎明出來!”的對光明的禮贊。隨後，他陸續發表了《鄉村》組詩和《擊劍手》、《紡車夜歌》、《隊伍繼續前進著》、《大隊人馬回來了》、《他和大眾在壹起》等作品。其中以山東萊蕪為背景，以壹位鄉村老翁的獨自形式寫成的《大隊人馬回來了》，引起轟動，受到廣泛關註。寫這首詩時呂劍年方十九，此詩壹經在《新華日報》發表，立即引起強烈反響。潘年在文藝陣地上熱情推薦，而著名詩人力揚、艾青也先後提及，演員田沖還在延安文藝晚會朗誦過。從此，呂劍大名便不脛而走，出現在整個反法西斯前線與後方。這首詩還與延安詩人天藍的《隊長騎馬回來了》並稱為”南北二馬”、”抗戰二馬”，壹時傳為佳話。這首詩也因此成為呂劍的成名之作。半個世紀之後，在紀念抗戰勝利50周年之際，這首詩被作為抗戰名篇受到中國作協推薦。
此後，呂劍由宜昌而赴襄樊、沙洋、恩施前線三年，又溯江而上抵重慶、走昆明、經廣州而轉香港，輾轉流徙，時遇不測，最後終於在1948年春初穿過封鎖線，進入晉冀魯豫解放區。這期間，他先後擔任“文協”昆明分會、港澳分會理事，昆明《掃蕩報》文藝副刊主編、《文藝生活》顧問等職，還與他人編了壹輯“風雨詩叢”。早期詩作與風磨、魯丁先後編輯《進入陣地》和《夜行詩草》自費刊行。1943年，呂劍曾將5年間創作的新詩作品輯為壹本《人民間工》的稿本準備印行。在後記中詩人寫道：我壹日不死，我的嗓子壹日不被扼啞，我都要學習貼近人民的心靈，繼續我的歌唱。要是我的來日的聲音能夠融化於人民的心靈與大地巨大的挺起的聲音，有了更豐滿的生命，那麽，詩集《人民間工》就算前進過程中的壹個起點。“把詩還給人民!”這就是呂劍當時和此後詩歌觀念的核心。
就在這種觀念推動下，呂劍創作了以抗戰、鄉土、民主、進步為主旋律的大量詩作，其中《大隊人馬回來了》、《創造》、《草芽之歌》和《家鄉有座山》諸首，則成為膾炙人口的名篇。
值得壹提的是呂劍於1946年至1948年在香港從事的文化活動。而早在赴港之前，他於1944年加入中國民主同盟，曾任文協昆明分會常務理事、昆明《掃蕩報》副刊主編，和聞壹多、楚圖南過從甚密。隨著日本投降，國民黨當局追捕進步人士，呂劍不得不秘密隨新中國劇社於1945年11月赴香港。
在香港，呂劍出任由廖承誌發起，範長江、夏衍等主持過的《華商報》的副刊主編《熱風》。在香港，呂劍除了要編寫《熱風》，還擔任文協理事，《文藝生活》雜誌的詩歌顧問，《中國詩壇》編委。在當時進步報刊上，不時可以讀到呂劍的詩，他後來結集出版的《詩與鬥爭》就是在1948年由新民出版社出版的。此書遠銷東南亞，對新詩壇影響很大。