成語的來源範圍很廣:
首先，它源於古代神話，中國的許多古代神話傳說都具有深刻的教育意義，如:創造世界，誇父追日，愚人移山。
第二，源於歷史事件。古代有許多著名的歷史故事和事件，後人將其濃縮為四字成語，如:完璧歸趙、參軍、負荊請罪等等。
第三，源於前人的故事，比如:胸有成竹，滿城大鬧，扛柴火救火等等。
四是源於古籍的寓言傳說，如憂天、邯鄲學步、偷鐘、等兔、刻舟求劍等。
第五，源於古人的原句，如:醉翁之意不在酒，追根問底，笑如千金，壹鳴驚人等等。
六是截取古人的句子，或稍加修改後再用，如:舍身取義、十寒受凍、身無分文、近水樓臺先得月、壹丘之貉等。
第七，來自群眾的口語、諺語、俗語占了成語的很大比重，但也有壹部分失去了原有的淵源。這些成語大多是群眾創造的，如大海撈針，指桑罵槐，另起爐竈，大刀闊斧。
第八，成語起源於外國，我們中國的成語也有壹部分來自國外，比如壹塵不染、自我呈現、揚眉吐氣來自佛經；還有西方的典故、格言、夕陽作品，如以眼還眼、以牙還牙、舊瓶裝新酒、火燒出栗、新陳代謝等等。
九是壹個由轉化而來的成語。為了表達或寫作的需要，改變使用壹兩個詞語，如:壹石三鳥，壹石二鳥，壹石多鳥，知難而進。
十是壹個成語，來源於生活，不是歷史傳承，而是近幾十年興起的。在日常生活中被多次使用，如:節約時間、爭分奪秒、百花齊放、下鄉、變廢為寶等等。