相傳公元781年，曾任唐朝檢校左仆射同中書門下平章事（相當於宰相）的大書畫家韓滉，在四川駱谷地方發現了壹株奇樹，便命知縣派工匠砍伐下來。該樹木質堅硬，敲上去發出金石之聲，看樹紋有金色交織其間。於是，他請技藝高超的琴工制出兩張琴，名日大忽雷、小忽雷。這樣寶貴的琴，韓滉未敢私留，獻給了唐德宗。
公元835年，宮廷發生了“甘露之變”，宦官仇士良專權，縱禁兵血洗宮廷。從此，大、小忽雷即流落到民間。
此時，宮中有個姓鄭的女音樂家，因她是宮女中的藝官，人呼鄭中丞。她文化教養好，通經史，能詩善畫，會奏多種樂器，尤精於琵琶。她曾經彈過小忽雷，後來因小忽雷的匙頭壞了，被送到崇仁坊趙家去修理。壹天，唐文宗聽鄭中丞彈琴，嫌曲調悲涼，龍顏不悅，命太監將她勒死。扔到河裏。當時有個叫梁厚本的宮中官吏正在河邊釣魚，忽見河上漂著壹件東西，大約有六尺多長，兩人合抱那麽粗，用錦緞帛綢纏著。梁厚本忙命人撈上岸來，裏面原來是壹口棺材。打開壹看，內有壹具女屍，面貌如生。解去脖子上的綢帛，口裏似乎還有氣，灌以米粥，竟蘇醒過來。她就是鄭中丞，後來成了梁厚本的小妾。
梁厚本聽鄭中丞講小忽雷在崇仁坊趙家，花了很多錢，終將小忽雷贖回。鄭中丞見到自己彈過的樂器，恍如隔世，萬分高興。但她白天不敢彈奏，只有在晚上才能輕輕彈奏撥。有時把小忽雷抱在懷裏，自言自語地說：“琴啊！琴啊！人們說‘偷生兒子畏人’，我和妳是同樣的命運啊！”
有壹天，天氣晴和，梁厚本和妻子在花下飲酒，鄭中丞在旁彈起小忽雷，梁厚本高興極了。想不到這時宮中黃門侍郎放鷂子從墻外經過，聽到了琵琶聲，他暗暗說道：“這曲子我在宮中聽過，這不是鄭中丞彈小忽雷嗎？鄭中丞已死，被拋到禦河裏了，難道說這是她的鬼魂在泣訴嗎？黃門侍郎把這怪事告訴了皇帝。文宗得知鄭中丞還活著，又是驚喜又是後悔，後悔對鄭中丞的賜死太過分了。當聽說她現在已經給梁厚本作妾時，不但沒有責怪，反而給了他們夫妻很多賞賜。”
到了清代，著名戲曲家孔尚任於1698年在北京得到了小忽雷，十分欣喜，便和友人顧彩（顧天石）把鄭中丞與小忽雷的故事編成戲劇《小忽雷》，並在琵琶上題詩寄思古之幽情。後來，小忽雷輾轉流傳，到了本世紀初，壹位名叫劉世珩的人刊印《小忽雷》傳奇而引起人們的註意，收藏小忽雷的收藏家就把這珍貴的琴送給了他。為此，他特地建了“小忽雷閣”，邀請大名鼎鼎的文學家林琴南等至閣中，聽高級樂師彈奏。事有湊巧，就在“小忽雷閣”聽琵琶的樂師中，有個人叫張瑞山，他說三十年前曾買到壹把二弦琵琶，樣子很古老。取來壹看，正是大忽雷。於是，張瑞山割愛，把大忽雷也送給了劉世珩。劉世珩把“小忽雷閣”改名為“雙忽雷閣”，又收集了所有關於大、小忽雷的記載、詩歌，編輯成《雙忽雷本事》壹書，1911年在天津出版。