“胡同”這個稱呼最早出現於元朝時期，由蒙古語“gudum”轉化而來。宋朝時期，北方的蒙古部落不斷崛起，最後在成吉思汗的帶領下建立大蒙古國。不過蒙古人並不甘心就此止步，所以在建國之後仍然不斷對外擴張，遼國、西夏，金國以等政權相繼被強大的大蒙古國所滅。後來大蒙古國因為內部政權紛爭分裂出四大汗國，其中包括由忽必烈掌權的大汗漢國，也就是後來的元朝。
忽必烈建立元朝之後進壹步對當時已經衰敗的南宋政權發動進攻，最後成功取而代之，蒙古也因此成為第壹個在中原地區建立政權的少數民族。政權發生變更之後，進入中原的蒙古族也帶來了他們的文化，繼而對原本的中原文化造成影響。在蒙古文化的影響下，壹些新的詞語或者風俗習慣開始出現，而“胡同”這個詞就是其中之壹。
壹本名為《宛署雜記》的古籍中曾提及：“胡同本元人語。”這裏所說的“元人語”就是指代蒙古語。而“胡同”這個詞最早出現於元朝雜劇《單刀會》，之後其余作品也相繼開始使用。“胡同”壹詞其實是蒙古語“井”的音譯，而井在元朝時期既有“市”的意思，也有“大街”的含義。與“胡同”這詞壹同出現的自然是胡同這種街道形式，北京胡同就是相當具有代表性的。
北京胡同中有很多胡同的名稱看似奇怪，其實壹旦從蒙古語的角度來看就會很容易理解。比如說“屎殼郎胡同”，該名稱在蒙古語中代表的是“甜水井”之意。再有就是“帽胡同”，在蒙古語中其實指代的是那些破井。不過對於“胡同”壹詞起源於蒙古語這壹觀點也是有人持質疑態度的，《北京晚報》上就曾刊登過壹篇文章，該文章認為胡同其實就是漢語。