遊仙詩源於漢代以前的歌詩。早在《楚辭》中，就已經有壹章描寫神仙溫柔托舉蒼穹。比如《遠遊》這篇文章，把古老的神話故事詩化，通過對“遠遊”的描寫，表達無憂無慮的世界和內心的憂慮，已經初具雛形。秦朝時，始皇帝是個好神仙，曾“令大夫為神仙和真人所作的詩周遊世界，並囑樂師為之歌唱、弦樂”。遊仙詩的出現，反映了當時濃厚的求仙風氣。之後的漢樂府中也有反映神仙思想的作品，如《白日進出》、《十九郊廟歌》中的《天馬》，都表達了遨遊太空的理想。
但遊仙詩作為壹種成熟的體裁，其流行是在漢代以後。魏晉時期，不僅道士寫遊仙詩，文人也紛紛寫遊仙詩，成為壹代詩風。因此，我國第壹部文學作品選本——梁代蕭統編纂的《文選》，將“遊仙”列為文學體裁之壹。在《文心雕龍》中，劉勰對遊仙的詩歌作了專門的評論，而在《詩品》中，鐘嶸對郭璞等人的詩歌風格作了較為詳細的評論。魏晉南北朝以後，遊仙詩雖然沒有以前繁榮，但寫這類詩的人還是很多的。像白居易、李賀這樣的人，還有遊仙遺風。
遊仙詩往往表現出在思想上超越世俗社會局限的強烈願望；在藝術上，遊仙的詩歌富有想象力，善於運用誇張、擬人、象征等多種修辭手法。道教神仙典故的運用，使遊仙詩更具浪漫色彩。