成語有很大壹部分是從古代傳承下來的，在用詞上往往與現代漢語不同。其中有來自古籍的句子，有從古代文章中壓縮出來的短語，也有來自人們口中的成語。
有些意思可以從字面上理解，有些不可以，尤其是典故。如“汗牛充棟”、“臥虎藏龍”、“卷土重來”、“草木皆兵”等在漢語成語中占有壹定比例。漢語歷史悠久，成語很多，這也是漢語的壹大特色。
成語是現成的詞，和成語、諺語類似，但也略有不同。最重要的壹點是，成語、諺語是口語，成語多是書面語，屬於文學性質。
其次，在語言形式上，成語幾乎都是約定俗成的四字結構，字面上的字是不能隨意改動的，而成語和諺語總是松散的，或多或少不局限於四個字。比如“快刀斬亂麻”、“盡力而為”、“驢唇不對馬嘴”、“前怕狼，後怕虎”等都是常見的成語。
“百物中的眼見為實”、“真金不怕火煉”、“有誌者事竟成”、“日久見人心”，這些都是壹些經驗性的言論，代表壹個完整的意思，屬於諺語的範疇。成語不同於成語和諺語。