成語中自然地理實體的名稱多為山、河、湖、海的名稱。有些成語概括了自然地理實體的某種狀態或特征，構成了成語的字面意義。比如《清明上河圖》記載了壹種奇特的自然現象，其中“清明上河圖”是兩條河流的名稱，當它們相遇時，兩股清澈渾濁的水匯聚在壹起。
類似的表達還有“中流”(中流砥柱)、“東海”(如東海之福)、“南山”(南山可動)、“長江”(長江天塹)。在壹些成語中，物理地理實體是成語與事件相關的地方，相關的地名作為成分進入成語。
比如《巫山余雲》中的“巫山”就是傳說中女神催雲催雨的地方，《東山再起》中的“東山”就是東晉名臣謝安長期隱居的地方。成語中的行政區劃名稱多為春秋戰國時期的諸侯名稱和秦統壹後不同朝代的郡縣名稱。
成語中以諸侯國為代表的地域名稱，有成語中比較強勢的“秦、楚、晉、吳、齊、魏、趙”，也有危言聳聽、自圓其說的“秦、楚、晉、吳、齊、魏、趙”。
成語中某些行政區劃的名稱，如“藍田余省、洛陽桂芝、桂林支、毀麥城、殷珊路、暗夜陳倉、合浦朱桓”、“藍田、洛陽、桂林、麥城、殷珊、陳倉、合浦”。這些地名是特定歷史事件發生的地方，是成語形成的關鍵因素。
此外，少數具有重要地理意義的交通設施也進入了成語。如“陽關大道”中的“陽關”是古代通往西域的關隘，“布谷勒門”中的“雷門”是古代會稽的大門。