本名孤榆。榆樹名字的由來，據《滿語地名考》記載:城街四周有土墻，土墻上生長著茂盛的榆樹，遠看似壹片森林，故名榆樹；另壹種說法，這個地名起源於城南的壹棵參天古榆樹。據說這棵榆樹需要十個人以上的擁抱。樹周圍100米沒有其他樹生長，所以目標很明顯，很醒目。很久以前，從寧古塔(今寧安縣)等地遷來的漢人，圍繞這棵樹開墾土地，建造戰車，稱為大古榆樹屯。後來墾荒人口增多，逐漸成為集鎮，於是大沽榆樹屯之名逐漸流傳，後來又叫孤榆。榆樹這個縣名由此演變而來。
西漢時期的榆樹屬於穢族的扶余國。東漢先隸元土郡，後隸遼東郡。北魏太和十七年(493)，布吉人滅扶余國，玉樹為布吉人的杜波部。唐初為十威達之地，轉十威達都督府。先天二年(713)，玉樹屬渤海國扶余府。遼寧屬寧江州，東京路。金屬走向北京趙州路。元屬開元路，屯田萬戶。魏明是努爾甘都薩斯岔河尾。明朝永樂六年(1408)，建立三岔河衛(伯圖納西北有壹條山岔河)。
清初，是大古玉樹屯。康熙二十壹年(1682)，屬吉林將軍。康熙三十壹年(1692)，吉林副都遷至伯敦，玉樹為伯敦領地。雍正四年(1727 65438+10月12)12月21日，增設長寧郡，劃歸奉天郡，以玉樹為疆域。乾隆元年七月五日(八月1736，11)撤縣，其人其地劃歸永濟府管理。乾隆十二年(1747，12年3月)二月二十壹日，永濟府增設吉林堂，同時增設博杜納巡撫，調任吉林堂管理國內獄務。乾隆二十六年(1761)，在伯敦下崗考察，被任命為駐伯敦管理蒙古事務的袁委員會主任。嘉慶十六年(1811)掌管軍校的委任狀，博杜納堂主任獲知。同時增加了兩名巡捕，分別駐紮在博杜納和古於舒屯，“管理獄捕，鎮壓私采，開荒”。光緒八年(1882，17年3月)正月二十八日，將博頓的廳堂、衙門遷至古玉書屯，改總監知同事為民，將古玉書屯原來的巡檢司改為廳堂、衙門的監所。光緒三十二年(1906，二月15)正月二十二日，伯敦堂升級為新城(今扶余)，在偏僻的玉樹屯建立玉樹縣。宣彤元年(1909)，改為玉樹直隸會館。
民國二年(1913)，三月改稱玉樹縣；民國三年(1914)六月，東北實行省、道、縣三級管理體制，榆樹縣隸屬吉林省濱江道。民國十八年(1929)成立東北行政委員會，縣直屬省管轄，玉樹縣隸屬吉林省。
1946 65438+10月1，玉樹縣民主政府成立；5月22日更名為玉樹縣人民政府，劃歸吉北機構。1947年2月，劃出黑林、修水區、大坡村，劃出舒蘭縣為特區，建立郁南縣，劃歸冀北署。1947 11年6月，撤銷郁南縣，黑林、修水、大坡歸玉樹縣。6月22日1948，吉北機構撤銷，玉樹為吉林省直管縣。195565438+2月，玉樹縣人民政府更名為玉樹縣人民委員會。7月3日1956，玉樹縣屬懷德區(10月6日65438變更為公主嶺區)。10月23日1958，10公主嶺地區撤銷，榆樹縣劃歸長春市管轄。0966年65438+10年10月+65438，放在德惠的代理下。1968年7月26日，玉樹縣革命委員會成立。7月3日，1969，德惠的代理機構撤銷，歸長春市管轄。1980 9月縣革命委員會更名為縣人民政府。
1990 65438+2月26日，國務院批準撤銷玉樹縣，設立玉樹市(縣級)。由長春市管理。