成語的結構是有層次的，大多是兩層，少數是壹層或三層。如：
兩層：揚揚得意 明日黃花 欽差大臣 氣宇軒昂 叱咤風雲
三層：壹衣帶水 譽滿天下 勢如破竹 暴殄（tiǎn）天物 削足適履
從第壹層的結構關系看，成語的結構類型主要有：
1、聯合式
豐功偉績 豐衣足食 載歌載舞 壹窮二白 九死壹生 連篇累牘 患得患失 風花雪月 熙熙攘攘 之乎者也
2、偏正式
後起之秀 肺腑之言 以功贖罪 水中撈月 忙裏偷閑 不約而同 豁然開朗 絡繹不絕
3、陳述式
胸有成竹 計上心來 情不自禁 枯木逢春 盲人摸象 群賢畢至 泥牛入海 歸心似箭
4、支配式
明辨是非 成人之美 混淆視聽 通觀全局 如履薄冰 如獲至寶 好為人師 大快人心
5、緊縮式
不破不立 不見不散 百讀不厭 風聲鶴唳（l）
6、兼語式
化險為夷 認賊作父 引狼入室 震耳欲聾
7、古漢語的特殊結構
唯利是圖 唯才是舉 唯命是從 時不我待 夜以繼日 不遠萬裏 車水馬龍 風馳電掣
二二式結構主要有以下類型：
1．並列型：豐功/偉績、龍飛/鳳舞、發號/施令、斬盡/殺絕。
2．偏正型：壹孔/之見、世外/桃源、孜孜/不倦、娓娓/動聽。
3．動賓型：包羅/萬象、別開/生面、飽經/風霜、固執/己見。
4．動（形）補型：暢通/無阻、完美/無缺、得意/忘形、略知/壹二。
5．主謂型：塞翁/失馬、葉公/好龍、百花/齊放、肝膽/相照。
6．連動型：畫蛇/添足、刻舟/求劍、畫餅/充饑、聞雞/起舞。
7．兼語型：引狼/入室、調虎/離山、指鹿/為馬、利令/智昏。
除了常見的二二式類型，還有壹三式類型和三壹式類型。壹三式類型多於三壹式類型。這兩種組合方式的成語若按二二式類型去讀，其意義就會令人費解。就是說，成語的意義決定了壹三式和三壹式兩種讀法。如成語“恒河沙數”，中心詞是“數”，意思是像恒河沙的數量那樣，多得無法計算，所以應讀作“恒河沙/數”；若讀作“恒河/沙數”，則無法解釋了。
三壹式類型主要有：
1． 偏正型：壹衣帶/水、始作俑/者、恒河沙/數、美其名/曰。
2． 主謂型：旁觀者/清、當局者/迷。
壹三式類型主要有：
1． 偏正型：概/莫能外。
2． 動（形）補型：妙/不可言、堅/不可摧、瞠/乎其後、罪/不容誅。
3． 主謂型：熟/能生巧、青/出於藍、前/所未有。
4． 動賓型：作/壁上觀、聞/所未聞、冒/大不韙、投/其所好。