這種思想的來源很早。老、莊哲學中已有混跡人間而心離世俗的思想，只是沒有說得那麽明白。如《莊子·則陽》：“孔子之楚，舍於蟻丘之漿。其鄰有夫妻臣妾登極者，子路曰：‘是稯稯何為者邪？’仲尼曰：‘是聖人仆也。是自埋於民，自藏於畔。其聲銷，其誌無窮，其口雖言，其心未嘗言，方且與世違而心不屑與之俱。是陸沈者也，是其市南宜僚邪？’”到了西漢，東方朔作歌雲：“陸沈於俗，避世金馬門。宮殿中可以避世全身，何必深山之中，蒿廬之下。”意思就比較明白了。西漢末的揚雄在《法言·淵騫》也有“柳下惠非朝隱者與”之語。
唐代白居易《中隱》詩的開頭：“大隱住朝市，小隱入丘樊。丘樊太冷落，朝市太囂喧。不如作中隱，隱在留司官。”於大小隱之外又提出了“中隱”。
“大隱隱於朝，中隱隱於市，小隱隱於野”好像是出自二月河的小說《雍正王朝》：雍正登基之後，放了鄔思道壹條生路，令其中隱。