連枷棍是壹種很古老的兵器，最早在什麽時候出現，眾說不壹，據《墨子·備城門》記載：“二步置連挺、長斧、長椎各壹物，槍二十枚。”意思是說將壹定數量的連挺、長斧等兵器分散設置在防衛區內。《墨子·備蛾傳》記載：“當敵人附借雲梯、密集如蟻，緣城墻而上時，用火燒之，用連筵擊之。”由此可見，連枷棍在當時（春秋戰國時代）就已經是守城禦敵的重要兵器了。唐代杜佑在《通典》中記載：“連挺，如打禾連枷狀，打女墻外上城敵人。”“女墻”，指城墻上的矮墻，即城蝶。意思是說當攻城的敵人沿梯攀登到接近城蝶時，守軍居高臨下，用連枷擊打敵人。
宋代時，連枷不但仍用於守城禦敵，而且成為壹種非常重要的馬上兵器。據北宋官修的《武經總要》記載：“若登者漸多，則禦以狼牙鐵拍；手漸攀城，則以連枷棒擊之。”這裏說明當敵人攀上城蝶時，利用連枷利於自上向下擊打的特點，打擊敵人手、頭等部位。又據《武經總要》記載：“鐵鏈夾棒，本出西戎，馬上用之，以敵漢之步兵，其狀如農家打麥之連枷，以鐵飾之，利用自上擊下，故漢兵善用者巧於戎人。”“西戎”，即我國古代對西北壹帶遊牧民族的泛稱。這裏說明當時連枷是用鐵制成，由西戎人發明創造，戎、漢士兵都曾用它作兵器，戎人擅長騎馬，手持連枷攻打敵人步兵。宋代官兵看到戎人的兵器優點後，便吸取過來，“鐵鏈夾棒”學習於“西戎”就是壹個很好的例子。這說明古代戰爭及多民族交流對我國古代武術的發展起到了很重要的促進作用。
馬上連枷也有單雙之分。手連枷棍可能就是西戎人將馬鞭子的皮質鞭梢改為短棒，再用鐵鏈（皮條）將鞭桿與短棒連接而制成。這種改制的武器短小輕便，適合騎兵快速、靈活、機動、單手使用的要求，亦可做為趕馬的“鞭子”。這大概就是現代手梢子棍的原形。
關於以鐵連枷破敵的著名戰例，亦有史記載。宋代《曾鞏集》記載：“先是，（狄青）青已縱蕃落馬軍二千出敵後。至是，前後合擊。賊之標牌軍為馬軍所沖突，皆不能戰，軍士又從馬上以鐵連枷擊之，遂皆披靡，相枕藉，遂大敗。（儂）智高果焚城遁去。”這段文字記載說明久在西陲的狄青，充分發揮騎兵突擊時鐵連枷“自上而下”的擊打威力，使得以步兵為主的依智高判軍潰敗而逃。
明末清初，連枷棍傳人朝鮮，保存在朝鮮古籍中的連枷譜由兩部分組成，其壹是“鞭棍”，即長柄連枷，用堅木制成。其二是“馬上鞭棍”，即馬上連枷，用“攢竹”制成，《鞭棍譜》中就有壹人執連枷與另壹人執長棍相配為伍的練習，包括起勢***十個圖勢，另有對練路線圖勢，稱《鞭棍總譜》和《鞭棍總圖》。鞭棍，即連枷。後來，連枷逐漸在朝鮮民間廣泛流傳，成為朝鮮的三大民間武器之壹。
另說連枷棍是宋代趙匡胤所創，從上面幾則史料來看，此說有誤。
隨著作戰形式的變化和兵器的改進，連枷棍逐漸失去了昔日在戰場上的顯赫地位，退出了軍旅征戰的舞臺。在“競技武術”占主導地位的今天，連枷棍也壹直被排斥在外，但作為壹種古老的武術器械，仍然在民間流傳著。京劇表演藝術家蓋叫天在“武松大鬧飛雲浦”的戲裏，就有連枷對打。電影《少林寺》少林棍僧與王仁則相戰時也用到連枷棍。這說明連枷在軍旅和藝術表演中均占有相當地位。在甘肅、陜西農村壹帶流傳極廣。
馬俊祥等人是梢子棍的佼佼者。