1916年，在約翰·霍普金斯醫院工作的醫學二年級學生傑伊·麥克林(Jay McLean)在生理學教授w·h·豪厄爾(W. H. Howell)的指導下，對體內促凝血物質的效價測定進行了專題研究。在研究中，麥克萊恩發現各種組織(大腦、心臟、肝臟等)的提取物。)具有促凝血作用，在貯存過程中其活性降低。
然而，出乎意料的是，儲存時間最長的肝臟提取物，不但沒有促進凝血，反而起到了阻止凝血的作用。麥克林向豪厄爾教授報告了這壹發現，豪厄爾教授懷疑這種提取物受到了鹽的汙染。但經過反復實驗，證明肝臟提取物中有很強的抗凝血作用。豪厄爾教授隨後從狗的肝臟中提取了這種物質。當時認為這種物質只存在於肝臟中，因此命名為肝素，壹直沿用至今。起初，由於價格昂貴，肝素僅用於實驗。
20多年後，1937，加拿大查斯發現人體很多組織都含有肝素，尤其是肺，比肝臟還多。Chas從動物肺組織提取液中分離純化肝素。自從有了從牛肺組織中提取肝素的技術，就有了肝素的大規模生產。
1938年，研究人員進行了首個肝素預防深靜脈血栓(DVT)的臨床試驗，肝素預防血栓形成成功。肝素正式成為預防血栓栓塞的手段，並開始被廣泛使用，是在它被發現的20多年後。從此，肝素成為臨床上常用的抗凝劑。