1921年生於朝鮮鹹鏡北道 ，因不堪忍受日本殖民統治，他的全家都逃難到中國東北。1931年“九·壹八事變”後，日本又吞並了東北全境，中朝人民的抗日鬥爭連成壹體，還未成年的李乙雪就參加了金日成領導的反日人民遊擊隊。為抗聯第2軍第6師少年連戰士。後任警衛連機槍手、通訊員。曾任金日成同誌傳令兵、衛士。深得金日成同誌的信任。
在1937年著名的普天堡奇襲戰中，年僅17歲的李乙雪充當傳令兵，他雙手圈嘴，對左右兩邊各學了壹聲蛙叫，蛙聲剛落，三支朝鮮遊擊隊按預先約定，如離弦之箭，迅速搗毀普天堡內的日軍崗哨和特務機關，這就是朝鮮抗日戰爭史上著名的普天堡大捷。1941年，隨所在抗聯余部退入蘇聯境內。
1942年8月，東北抗聯教導旅編成後，任旅無線電發報員。
1945年，百萬蘇聯紅軍對盤踞在中國東北和朝鮮的日軍發動最後壹戰，李乙雪所在的朝鮮抗日武裝帶著無線電發報機，先期進入中國東北實施偵察行動。當時蘇軍得知日軍在老黑山附近修建了機場，集結了數百架飛機，但情況無法核實，焦慮萬分的蘇軍統9中部請朝鮮戰士幫助搞到最準確的情報。於是，李乙雪親自化裝成商販，大膽地混進敵人的機場，弄清那裏的所謂飛機其實都是木頭搭的假目標。 1945年祖國朝鮮光復後回國。歷任金日成委員長生活副官、首相衛隊長多年。長期負責金日成同誌的起居和安全。並與金日成同誌之子金正日結下深厚情誼。
1950年朝鮮戰爭爆發後，李乙雪先後擔任了朝軍第4師參謀長和第15師第3團團長職務，並率部多次創下以少勝多的戰例。
1952年夏，潛伏的韓國特工悄悄在朝鮮最高司令部所在的幹芝裏山溝附近設置無線電裝置，招引幾十架美國飛機前來轟炸。敵機把最高司令部駐地壹帶都給炸翻了，有壹顆定時炸彈就扔到金日成的司令部建築旁邊。恰巧那壹天，李乙雪也在現場主持緊急會議，他見狀立即號召警衛隊員展開決死戰，並把黨員證交給組織，抱定必死的決心，硬是用木杠擡著定時炸彈扔到山谷去了。金日成首相以此為據，查出了“樸憲永、李承燁間諜叛國集團”案。
1953年，任朝鮮人民軍師長。晉升為少將軍銜。同年，赴蘇聯列寧格勒軍事大學留學深造。學成回國後，任朝鮮民主主義人民***和國內閣內務省護衛局局長。1956年金日成首相赴蘇出訪前夕，他密告副首相崔昌益有異動。為金日成首相挫敗崔昌益集團，清洗蘇聯派、延安派等鬥爭中起到重要作用。
1962年10月，任第5軍團軍團長。晉升為中將軍銜。其防區位於朝韓“停戰線”西部，直接與駐韓美軍王牌第2步兵師對峙，他指揮部隊從不示弱，連續多次挫敗美韓軍方改變“停戰線”現狀的企圖。同月起，相繼當選為朝鮮民主主義人民***和國第三～第五屆、第七～第十壹屆最高人民會議議員。
1968年3月，在朝鮮勞動黨第四屆十壹中全會撤職和清洗朝鮮民主主義人民***和國內閣民族保衛相金昌奉大將和朝鮮人民軍總政治局長許鳳學大將的事件中，發揮了重要作用。 1970年11月，被選為朝鮮勞動黨中央委員會委員。1971年起，任朝鮮人民軍副總參謀長、朝鮮勞動黨中央護衛總局局長。
1972年2月，任第5集團軍司令官。晉升為上將軍銜。1980年10月，在朝鮮勞動黨第六屆全國代表大會上，當選為中央委員會委員、中央軍事委員會委員。
1983年，由於壹直跟隨在金日成左右，李乙雪被直接提拔為平壤防衛司令官，金日成等國家高級領導人的警衛工作完全由李乙雪負責。1984年8月，重任朝鮮勞動黨中央護衛總局局長。此後其軍旅生涯便顯得平平坦坦，1985年4月，晉升為大將軍銜。1990年5月，當選為朝鮮民主主義人民***和國中央國防委員會委員。
1992年4月，晉升為朝鮮人民軍次帥軍銜。1995年，任錦繡山紀念館館長。10月，晉升為朝鮮民主主義人民***和國元帥軍銜。從擔任護衛總局局長的那壹天起，李乙雪便成為朝鮮國內最忙碌的人，他要對各條秘密戰線上匯總來的情報進行分析，以便使國家領導人的安全防範工作達到萬無壹失的程度。
據透露，2004年朝鮮龍川火車站發生爆炸事故時，李乙雪及時利用自己手中的情報網掌握到可疑信息，並緊急下令載有國家高級領導人的專列秘密改變方向，從而避免了壹次危險的政治事件。 2015年11月7日，朝鮮第壹代革命元老、朝鮮人民軍元帥李乙雪因病逝世，享年94歲。朝鮮決定為李乙雪舉行國葬，朝鮮國防委員會第壹委員長金正恩將全權指揮喪禮的舉辦。