櫓在中國起源的具體時間尚難確定，它最早出現的年代目前尚不可考，傳說魯班看見魚兒在水中揮尾前進，遂削木為櫓。
從中國古籍記載來考證，櫓最早出現的年代至晚產生於漢代。據東漢劉熙《釋名》壹書，對櫓字已作了解釋，認為它產生的力沿著船脊方向。
櫓的外形有點像槳，但是比較大，壹般支在船尾或船側的櫓檐上，入水壹端的剖面呈弓形，另壹端則系在船上。用手搖動櫓檐繩，使伸入水中的櫓板左右擺動。櫓擺動時，船跟水接觸的前後部分會產生壓力差，形成推力，推動船只前進，就像魚兒擺尾前進。古人有“壹櫓三槳”的說法，認為櫓的效率可以達到槳的三倍，因為從槳到櫓的變化，事實上就是從間歇劃水變成連續劃水，提高了效率。
櫓這種推進工具要比劃槳優越，它是壹種連續性的推進工具，而且具有操縱船舶回轉的功能。英國有專家認為，螺旋槳的發明是受到了櫓的啟發，歐洲人看到中國人使用櫓後受到啟發，發明了螺旋槳。英國專家的說法是有道理的，螺旋槳不間歇作旋轉運動的葉片，與在水中滑動的櫓板十分相似。