明初，朱元璋定鼎南京後，數次派使臣詔諭占據雲南的梁王歸順，均遭拒絕，遂令傅友德、沐英率軍征伐。傅友德征雲南時帶來的三十萬大軍，大部留駐雲南，分撥於衛所。直到洪武末、永樂初，奉旨轉駐山東各衛所軍戶壹萬五千余戶，七萬余人。這些軍戶雖大部分原籍並非雲南，但長期駐守雲南各地，妻室大部為雲南土著之民之女，他們中有相當壹部分子女是在雲南出生，後來遷到山東而以雲南為原籍，而遷居到山東的雲南同鄉們居地貫以小雲南名之以示對雲南故地的紀念，此為情理之中。但雲南並非就是"小雲南"。
小雲南在山東說
小雲南在山東的說法較為普遍，也被多數人所認同。
現收藏在遼寧省岫巖滿族自治縣王姓家中《王氏譜書》，即王春芳始修於1958年，王彥興續修於1985年。其內容有譜序、世系等。譜書中所記王氏原居"山東小雲南大榆樹"，於清順治八年(1651年)遷居遼寧入旗。所記"小雲南"人小腳指甲分辨復形的特征和王氏從滿習俗為其他譜書所不多見。
又據李林所著《滿族宗譜研究》壹書中宗族遷徙篇所記："由山東遷居關外的漢人，在籍貫上有兩種，壹種是山東小雲南，壹種是原籍雲南，又遷到山東。小雲南究竟在何處?遼寧省岫巖縣《王氏譜書》記載：順治八年始祖王明政率四子，從山東小雲南大榆樹遷來奉天城北康家屯定居。由此來判斷，所謂的'小雲南'乃泛指山東登州、萊州、青州壹帶的地方，並非現在雲南省地方。"
今吉林省吉林市第壹商業局張錫印所藏《張氏家譜》記載，張氏遷吉前原居"山東小雲南大榆樹下"，於清道光年間遷居吉林。這亦把小雲南定在山東。另有今吉林省舒蘭市白旗鎮三胞親友聯誼會會長馬鎮洛先生所存《馬氏家譜》所記，馬氏原居"山東小雲南馬家莊"，清乾隆時遷吉林永吉縣缸窯鎮，後遷舒蘭縣白旗鎮。
以上譜書記載，證實了小雲南不在山西，也非指雲南省而就在山東壹說。並且，其地域範圍在萊州、登州、青州即今山東半島地區。
小雲南在山東，已為大部分民間家譜記述佐證。那麽小雲南在山東何地呢?
明朝初年，倭寇不斷侵擾沿海地區，今山東青島地區，北東南三面環海，以山為岸，港灣交錯，島嶼羅布，是為海防重地，為防倭寇侵襲，自洪武中先後在登、萊、青三州，設置七衛、十二所，即安東衛分轄東海中所(在今江蘇連雲港市)，隸青州府。大嵩衛分轄海陽所、大山所。靖海衛分轄寧津所。成山衛分轄尋山後所、百尺崖後所。威海衛分轄金山左所、奇山所，隸登州府。靈山衛分轄夏河寨前所、王徐寨前所，隸萊州府。洪武二十壹年(1388年)開始在今山東即墨市東20公裏邊海築城設防，並於建文四年(1402年)置鰲山衛(即今即墨鰲山衛鎮)、分轄雄崖守禦千戶所(在今即墨市豐城鄉雄崖所)和浮山備禦千戶所(在今青島市浮山所)劃境而治，直隸萊州府。直至清雍正十二年(1734年)，衛所等裁並於即墨縣。
鰲山設衛後，明政府先後從雲南烏撒衛等地調來許多軍隊，這些軍隊又自鰲山衛分撥到登萊青各衛所。其中僅鰲山衛轄墩堡四十余處，遷入軍戶約七萬余人。這些軍戶的祖籍遍布江蘇、安徽、浙江、江西、湖南、湖北、河南、河北、山東、四川乃至雲南等廣大地區。隨傅友德平定雲南後，便落籍雲南守烏撒實行軍屯。自洪武十四年(1381年)入滇，至永樂初年，駐守雲南長達20余年，第二代也已長成。況且當年從軍之時大部分只身壹人，少數妻室家小是在駐守雲南後隨軍，而獨身者則多與當地女子結合成家，故轉駐鰲山衛後，他們多以雲南為原籍。查今山東省《即墨市地名誌》記載，今即墨市30個鄉鎮近1000個村莊，半數民戶多稱祖籍為雲南，或雲南烏沙(撒)衛。亦有雲南"槐陰縣"、"威寧"、"畢陽縣"、"樂歌屯"、"照陽山前"、"獅子口"、"鳳儀縣"、"哥嘎縣牛角胡同"。而多數家譜為"雲南烏沙(撒)衛，大槐樹"或"烏沙(撒)衛槐樹溝、大槐樹裏頭"等。獨無"小雲南"字樣。其遷移時間多為洪武末至永樂年間。而以隨徐輝祖自雲南烏撒衛轉防鰲山衛者為多。《明史·四川土司傳》說，烏撒，元置軍民總管府。明洪武十六年(1383年)，蠻夷復叛，傅友德、沐英，因烏撒、烏蒙、東川、芒部四府離四川較近，上報朝廷，請將四府改隸四川獲準。直到清雍正年間鄂爾泰命改土歸流，因東川距昆明近而距成都遠，經奏準將東川、鎮雄、烏蒙復隸屬雲南，烏撒則隸屬貴州。又據明萬歷版《即墨誌》載：洪武二十四年(1391年)，即墨縣人口為13480戶，126800人。這其中鰲山設衛後壹次性自雲南遷來軍戶就達7萬余人，占當時即墨總人口的60%還多，而這些軍戶以鰲山衛為中心分屯在即墨東部沿海，北至雄崖，南至浮山，包含今即墨全境和青島市區。明代，鰲山衛是即墨的政治、軍事中心，自雲南遷來的軍戶，集居在這壹地區，為不忘雲南故地又區別於雲南，而以小雲南之名稱於此地，是在情理之中。今吉林省的九臺市東北部、舒蘭市的西北部、榆樹市的西南部這壹地區沿松花江兩岸即有"小昌邑"之稱，正史雖不見記載，民間卻廣為流傳。其名則源於清代乾隆以後，這壹帶屬奉天府永吉州巴彥鄂佛羅防禦旗管轄，而這壹帶的居民80%是在清代康熙以後來自山東萊州府昌邑縣，為不忘故土，故冠以"小昌邑"之稱。
另據今山東省昌邑縣《譚府萬世譜書》所記"……余譚氏之相傳，於元明之際，自小雲南鰲山衛遷邑城之北、濰水之東，莊名海眼……"該譜系譚玉湘修於清朝光緒年間，譚春和作序。這壹記載明確表述了譚氏遷昌邑之前，原居住在鰲山衛，而鰲山衛即設在小雲南這壹地方。這種表述再清楚不過的說明了小雲南即指今山東省即墨市東部沿海和青島市區。今吉林省舒蘭市白旗鎮《馬氏家譜》序言中亦表述了馬氏原居"山東即墨小雲南馬家莊"，於清代遷吉林省永吉縣的缸窯，後又遷到舒蘭縣的白旗鎮。這些都足以說明小雲南在山東，而確切地點在山東即墨東部沿海壹帶。
在今山東威海、煙臺、濰坊等地區以及今東北諸省，許多姓氏家譜和口碑流傳提及"小雲南"之名。可以想見，這些家族的祖先必是洪武至永樂年間集居小雲南(鰲山衛)的軍戶，自明中後期自小雲南又遷徙到各地，因而在家譜中則有山東小雲南字樣。筆者的祖先，則是於明洪武十四年隨傅友德入滇，又於明永樂二年(1404年)轉防鰲山衛(自永樂以後鰲山衛地區開始有"小雲南"之稱)，又於永樂二十壹年(1423年)北上，兄弟五人壹遷北京上林苑，兩遷濰邑(今濰坊)，壹遷漁營，壹遷海眼。筆者祖先即為海眼譚氏，又於清乾隆年間遷居吉林。
綜上可知，"小雲南"不在山西，也不在雲南。小雲南在山東，其具體地點即指今青島市和即墨市的東部沿海地區，其中心治所即今即墨市
小雲南是由雲南北歸的兵戶聚集居住區域,這些人通常戲稱這樣的地方是"小雲南",在山東，其具體地點即指今青島市和即墨市的東部沿海地區，其中心治所即今即墨市,在山東的濰坊等地也有由雲南北歸而聚居的區域,也叫"小雲南"