最終這些胡部落開始大亂，控制了北方和中原的大部分地區，把金朝的控制範圍縮小到了淮河以南，結束了金朝早期的繁榮。之後，金朝被稱為東晉。
東晉政府主要由強大的將軍王力可·敦和桓溫控制。這些將領經常發動北伐，意圖從蕪湖收復北方。但軍方與政府內部的分歧，以及南方經濟的不發達，使得這些北伐無功而返。383年，金朝受到統壹北方的前秦的威脅。金朝不是為了收復北方而戰，而是為了自己的生存。
然而，在淝水之戰中，金軍打敗了比自己強大得多的秦軍，導致了北方前秦的覆滅。金軍趁機在謝安和劉裕的帶領下發動了壹系列北伐，收復了黃河以南的大片領土，即傳統意義上的中原。然而，金朝最終在420年被劉裕推翻。西晉是52年，東晉是104年。
晉朝是三國中最強大的曹魏的望族司馬建立的。250年後，司馬實際控制了曹魏的軍權，成為政權的實際統治者。265年，魏國最後壹個皇帝曹歡把皇位讓給了司馬燕，他成了金朝的第壹個皇帝。
滅吳晉武帝立即著手消滅三國最後壹個國家，控制中國東南部的吳國。280年，20萬金兵從四川和北方分六路入侵吳。他們很快就沖破了所有的抵抗，包括東吳宰相張贊的意圖，用三萬大軍阻擋。很快，金軍包圍了吳的首都南京，只有兩萬守軍。吳國皇帝孫皓知道亡國不可避免，投降了金朝，中國重新統壹了。
在金武帝的統治下，中國進入了壹個繁榮時期。金朝通過降低稅率和修建水壩來幫助農業和鼓勵恢復生產。中國的統壹也促進了貿易，刺激了經濟。
這樣的繁榮也體現在日益奢侈的皇帝身上。仆人王吉曾用人奶餵豬的肉取悅武帝，仆人謝和每天的夥食費超過2萬元。這種腐敗也受到了其他金朝官員的批評，他們擔心越來越多的胡人遷徙。
八王之亂的武帝認為魏死是因為皇族失去了權力和支持。為了防止這種情況在自己之後再次發生，他任命了許多兄弟和兒子作為各州的附庸，實際上在中央朝廷之外建立了壹系列強大的地方政府。
後來，在武帝死後，在災難性的八王之亂中，他軟弱的繼承人惠今的控制權被當地的國王爭奪，這嚴重削弱了金朝和司馬皇族的權力。
中國八王之亂後，以蕪湖為首的北胡部落乘中國之亂。公元304年，劉淵率領的胡人軍隊起來反抗金。金軍雖為遏制蕪湖起義而戰，但於310敗於古縣寧平城，鐵騎十余萬。從那以後，它就無法控制北方了。311年，蕪湖攻陷金都洛陽，活捉晉懷帝，殺王公、皇族、官、兵三萬余人。金朝的第二個首都長安也在316年淪陷，皇帝陳進也被俘虜。
內部危機金朝殘余的追隨者退守南方，建立了遠方宗室司馬_，建立了東晉，控制範圍僅限於長江以南。這壹時期司馬氏皇族的權力被嚴重削弱，使得東晉被王敦、桓溫等權貴將領把持。
桓溫北伐346年和373年，實際控制金朝政權的桓溫對蕪湖展開了壹系列北伐，試圖加強金朝及其自身的威望。但由於糧食供應不足，加上司馬皇族對桓溫的懷疑，這些北伐大都以失敗告終。
376年淝水之戰，北方被前秦統壹，使東晉陷入嚴重危險。383年，前秦王苻堅率兵30萬入侵晉國，晉國只能征召8萬大軍。然而，金軍訓練有素，裝備精良，但大多是由義務兵組成。在淝水之戰中，秦軍被晉軍打敗。
這場戰爭勝利後，宰相謝安趁著前秦的覆滅，為金朝收復了淮河以北的大片領土。但桓溫的兒子桓玄作亂分散了金朝的註意力，東晉直到劉裕崛起才將其擊敗。
劉裕北伐，往往被認為是南北朝時期最優秀的將領。406年，劉裕消滅了桓玄的勢力。他隨後對後秦、夏朝、南燕、北魏發動了壹系列的北伐，除夏朝外，都取得了成功。這些勝利使東晉收復了中原，並在黃河邊固定了北疆。從那以後，的聲望越來越大，以至於他在420年篡奪了金，建立了南宋。在他和他的兒子劉義隆統治時期，南朝將進入短暫的黃金時代，直到宋明帝統治時期，鮮卑才再次占領北方。