我國古代的很多神話傳說、寓言故事含義深刻，富有教育意義，往往被概括成為成語。例如：
女媧補天 精衛填海 開天辟地 誇父追日
愚公移山 守株待兔 刻舟求劍 拔苗助長
二、來源於歷史故事
我國古代有許多著名的歷史故事和歷史事件，後人把它們凝縮成四個字的成語。例如：
臥薪嘗膽 負荊請罪 四面楚歌 草木皆兵
破釜沈舟 完璧歸趙 望梅止渴 三顧茅廬
三、來源於古書成句
這又分兩種情況：壹是從古書中直接摘引原句；壹種是經過加工的，或緊縮、或減字、或增字、或換字。例如：
①壹鼓作氣壹《左傳·莊工十年》：“夫戰，勇氣也。壹鼓作氣，再而衰，三而竭。”
②瓜田李下壹古樂府《君子行》：“瓜田不納履，李下不整冠。”
四、來源於群眾口語
有不少成語來源於群眾口頭用的通俗而形象的俗語。例如：
①狼子野心壹《左傳·宣公四年》 ：“諺曰：狼子野心。是乃狼也，其可畜乎！”
②千夫所指壹 《漢書·王嘉傳》 ：“諺曰：千夫所指，無病而死。”