1.源於寓言故事
寓言是以散文或韻詩的形式講述帶有勸諭或諷刺意味的故事。它往往是通過故事或者把自然物擬人化來說明壹個道理。寓言具有教育的性質，具有勸諭性或諷刺性。比如，成語“東施效顰”是《莊子·天運》裏的壹則寓言，講的是東施效仿西施不成，反而遭人唾棄的故事，諷刺胡亂模仿的行為，勸告人們不要盲目地模仿。成語“守株待兔”是出自《韓非子·五蠹》的壹則寓言，講古代壹農民，看見壹只兔子撞在樹根上死了，從此便放下鋤頭，天天在樹根旁等撞死的兔子，用來諷刺那些不經努力就想取得成功的人。成語“刻舟求劍”是《呂氏春秋·察今》中的壹則寓言，講古代楚國人坐船渡河時，不慎把劍掉入江中，等到船靠岸後才跳入江中尋找，結果遍尋不獲的故事，該寓言勸勉為政者要明白世事變更，適時改革。諸如此類的成語還很多。
2.源於神話傳說
神話傳說往往是古代英雄的故事，是古代人民對自然現象和文化的解釋與想象的故事。神話盛行於上古時代，也就是五帝時期，許多神話都是在那個時期產生的。比如，成語“精衛填海”，出自先秦古籍《山海經·北山經》的壹個神話傳說，講的是上古時期炎帝的女兒精衛去東海玩，由於風暴突襲，她死了。後來精衛去西山銜來石子兒和樹枝，壹次又壹次地投到大海裏，想把東海填平。中國人用這個成語比喻按既定的目標堅持不懈地奮鬥到底。成語“開天辟地”，出自三國時吳國徐整的《三五歷記》裏的神話傳說，講的是上古時期盤古開天地這壹故事，後常用來比喻空前的，自古以來沒有過的現象。成語“天衣無縫”出自五代時期前蜀牛嶠的《靈怪錄·郭翰》的壹個神話故事，原指神話中的仙女穿的天衣，不用針線制作，沒有縫兒，現比喻事物非常完美自然，不露任何痕跡，沒有壹點破綻。此類成語也頗多。
3.源於歷史故事
中國有悠久的歷史，由歷史事件形成的成語也不少。這些成語除了史實本身，往往帶有更深壹層的隱喻意義。比如，成語“指鹿為馬”出自西漢司馬遷的《史記·秦始皇本紀》，講的是秦二世時奸臣趙高的故事。成語除了講趙高指著鹿說是馬，謀害大臣這個歷史外，還比喻故意顛倒黑白，混淆是非。成語“望梅止渴”是出自南朝劉義慶的《世說新語·假譎》，講的是曹操為激勵士氣，騙說士兵前方有梅林，結果士氣大增的故事，後比喻願望無法實現，用空想安慰自己。成語“完璧歸趙”出自西漢司馬遷的《史記·廉頗藺相如列傳》，講述的是戰國時期趙國大臣藺相如將和氏璧完好地從秦國帶回趙國的故事，後比喻把原物完好地歸還物品主人。這類成語也是不勝枚舉的。 4.文人作品 如：老驥伏櫪，青出於藍。 5.外來文化 如：功德無量，火中取栗。