小說中對青龍偃月刀的描寫更是極端。比如《三國演義》第壹回，說劉得了千斤熟鐵，關羽造了青龍偃月刀，青龍偃月刀還有壹個奇怪的名字“冷艷鋸”。在《三國演義》中，對青龍偃月刀的制作過程和刀身樣式只有簡單的提及:“雲長制作的青龍偃月刀，又名‘冷眼鋸’，重82斤。”第三次虎牢關之戰，呂布在壹首詩中說:“戰役不分勝敗，關雲長戰前懊惱；青龍包道可霜雪，鸚鵡衫飛蝶。”青龍偃月刀和赤兔馬壹起成為了關羽的識別標誌。羌人兵敗雪中，安排了壹段話:“只見雲中大將，面如重棗，眉如蠶，綠袍金甲，龍刀，騎赤兔馬，胡子美。”劇情如此生動，關羽威武的形象逐漸深入人心。
不僅如此，《三國演義》還圍繞青龍偃月刀設計了許多精彩的情節，如:帶刀挑袍、單刀赴會、丟刀搶刀等。看來青龍偃月刀在小說中出現的時間比關羽還長。
關羽用它殺了很多武將，所以後人也稱青龍偃月刀為關刀。關羽被殺後，青龍偃月刀被吳棟將軍潘璋奪走。後來關羽的兒子關興為父報仇，殺了潘璋，奪回了青龍偃月刀。所以關羽和青龍偃月刀被視為彼此的象征。