據《清涼山誌》記載：隋朝初年，有五百應真棲此，龍神修供，有騾數十匹，不用人騎，自能入市運糧，朝去暮歸，率以為常，過夏俱隱，是時白蓮生池，堅瑩如玉，七日乃爍，代牧砌其池誌曰“玉花”。覺玄詩：“何代池開白玉花，香風拂拂散天涯。雲行尊者飛空去，萬古芳聲不浪誇。”
玉華寺於唐大歷五年（770年）由中國佛教四大翻譯家之壹的三朝國師“不空”和尚（北印度人）建成密宗護國道場。該寺歷經唐、宋、明代屢廢屢興，到明景泰年間，由徑山愈公大禪師偕門徒壹庵禪師重興。成化辛醜（1481年）由皇帝賜金匾“萬壽禪寺”。大慈法王釋迦耶協的法孫凈修宏覺灌頂大國師綽吉堅參（北京大慈恩寺崇善法王弟子）於玉華寺長期修行傳法，主要門徒有僧祿司右覺義端竹巴藏。弘治三年國師圓寂於玉華寺，塔於玉華寺主山之前。所以，玉華寺是格魯派在五臺山最早寺院，同時也是漢藏僧侶同寺、同住、同修的典範。
至清代，康熙二十三年玉華寺改為黃廟，是五臺山十大黃廟之壹，乾隆帝時又是章嘉五處之壹，康熙、乾隆、嘉慶皇帝曾數次駕臨玉華寺，並留下禦筆楹聯、詩句等。
文革後期（1978年）寺院被拆毀。現由釋信行法師主持，寺院正在恢復重建中，為能海上師法脈，漢地格魯巴道場。
玉華寺現存明清兩代遺址：主要有：羅漢坪、閉關房、牌坊、天王殿、大雄寶殿、藏經樓、東西配殿、文殊院、玉華池（隋代古井）、藏僧塔林（約二十余座）、龍王廟、羅漢腳印、青石碑十余塊、國師塔院、明鑄羅漢像等諸多宗教文物。明鑄五百羅漢像現僅存二百六十余尊，寄存在五臺山顯通寺內。