大成元年(579)二月，周皇帝於被轉讓給他的兒子顏(後改名顏)，成為周景帝的大象。於謝文以天元皇帝的名義奪取了政權。第二年五月，翟晶八歲時，於文嘎去世。文史上，大夫鄭毅和手下的大夫劉芳，傳下遺詔，召隋文帝入宮，以左丞相的名義掌握軍政大權和內外軍務。
隋文帝沒有大的建樹，也沒有超越大臣們的實權和期望。他僅僅憑借軍事貴族的家庭背景和繼父的地位而掌權。但由於周朝宣帝殺臣，當時朝鮮國內沒有強大的反對派，隋文帝控制了朝廷軍隊集中的關中，在軍事上占有優勢。在老將李牧、魏孝寬的支持下，依靠關中的軍事實力，迅速平定了襄州(今河南安陽南)總經理魏赤炯、雲州(今湖北安陸)總經理司馬曉南和抵抗他的益州(今四川成都)總經理王千。三方叛軍都不同程度地與北齊舊臣有關。尤其是魏赤炯，用了很多齊人，比如信任的謀士崔達，就是高門博陵第壹等的崔氏。他起兵時就說“趙魏之士為從”，很快就達到幾十萬人。魏赤炯實際上代表了關東士族的割據欲望。司馬曉南本人是北齊的老臣，也起用了北齊後期的寵臣高安能。所以隋文帝平定三方，在北方統壹的基礎上進壹步削弱了割據勢力。
隋文帝在平定地方叛亂的同時，也屠殺了宇文王。消滅內外政敵後，從左丞相升為大丞相，並於周大定元年(581)二月代周稱帝，改國號隋，為隋文帝(見隋文帝)。
統壹南北自西晉末年以來，南北分治近300年，歷史發展趨勢是統壹。隋朝完成了這壹歷史任務。
隋朝初年，北方突厥勢力強大，反對隋朝。黃凱二年(582年)，隋軍打敗了入侵河西乃至紅花、尚軍、延安(今陜北)的突厥軍隊。突厥汗國內部矛盾激化，三年時間，突厥分裂為東、西兩個汗國。五年，東突厥沙伯羅汗加入隋朝，經隋朝同意，率部遷至白道川(今內蒙古呼和浩特西北)，北方安定。隋朝的勢力於是轉向江南。
八年二月，隋文帝上書陳。11月，由晉王楊光率領的90名將軍中的518，000名士兵沿著長江中下遊向南進軍。次年正月，隋朝大將何若璧從廣陵渡河，韓擒虎從采石渡河，東西兩路指向建康。何若碧在中山激戰，擊敗前來應戰的陳軍和韓擒虎。由於任忠將軍的投降，陳得以首先進入皇宮，並抓獲陳包書，已故的統治者。長江中下遊的陳軍隨即失陷或破嶺南，並在高梁(今廣東楊集)太守鮑鋒之妻(少數民族)的幫助下迅速平定。這場統壹戰爭從出兵到戰爭結束，只持續了四個月。
隋代陳平之後，德州有三十郡、壹百郡、四百郡，戶籍50萬，人口200萬。後來隋將陳朝皇室和官員家屬遷入關內。從此，江南的貴族會館更加沒落。
陳死後，雖然江南大部分貴族會館北移，但梁晨正擴大勢力的地方豪強和所謂的郝帥，依然保持著實力。隋朝派往江南的官員都是北方人，不尊重地方豪強的特權。有權勢的人認為統壹損害了他們的利益。開皇十年冬，陳舊境各地爆發反隋暴動。當時盛傳隋朝要將江南百姓全部遷入關中，所以豪強得以凝聚民心，大股數萬，小股數千。隋朝派蘇陽為行軍總管，領兵鎮壓。統壹是大勢所趨，割據並不能真正贏得江南人民的支持。隋軍把他們壹個壹個分開，並在第二年解決了他們。貴族會館的北移和這次鎮壓，沈重打擊了江南的割據勢力。
西晉末年以來，南北長期分裂的主要原因是尖銳的民族矛盾。北朝後期，鮮卑貴族的士紳化，特別是各族人民的生產鬥爭和階級鬥爭，促進了民族大融合。漢族楊姓以後，作為民族矛盾象征的鮮卑政權也消亡了，南北統壹的條件成熟了。當時隋的經濟、政治、軍事實力都比陳強。這樣，結束近300年分裂的歷史任務就由隋完成了。
在文帝統治時期和楊迪初期，隋朝相繼進行了壹系列有利於完成和鞏固統壹、加強中央集權的改革。
隋朝的這些改革適應了國家統壹、民族融合、門閥制度衰落的歷史發展趨勢，具有積極意義。這些改革的實施，強化了封建國家機器，維護了以關隴軍事集團為核心的地主階級專政。
隋朝的很多改革都是文帝和楊帝完成的。鄧文迪有五個兒子。文帝代周前夕，長子楊勇對內帶禁軍，對外統壹土地，後成為太子，參預軍政。他壹度受到文帝的寵愛，但他的驕奢淫逸讓文帝和獨孤皇後漸漸失去了對他的信任。二兒子楊光也是奢侈好色，但善於做作，看起來節儉孝順，深得父母寵愛。他勾結大臣蘇陽向文帝揭發楊勇的過失。文帝與楊勇的關系日益惡化，文帝甚至懷疑楊勇有篡位之意。600年10月，文帝廢了楊勇，11月，立楊光為太子。仁壽四年(604)，即位為楊帝。傳說鄧文迪是被楊光暗殺的。
楊迪登基時，漢文帝第五子漢王楊亮掌管並州，統轄晉冀魯豫52州，手握強兵。他覬覦王位已久。七月，楊帝即位，八月，楊亮以討好為名造反。楊亮雖然有相當的實力，卻改變不了關中的軍事優勢。他用兵猶豫，忽攻忽守，很快就被楊素玲的部隊壓制住了。