北周于577年灭了北齐,统一华北后国力兴盛,但是北周宣帝奢侈浮华,沉缅酒色,政治腐败,还同时拥有五位皇后。外戚杨坚乘机将北周重臣外遣,朝政逐渐由他掌握。580年6月8日北周宣帝病死,杨坚扶持年幼的北周静帝宇文阐,以大丞相身份辅政。相州总管尉迟迥、郧州总管司马消难与益州总管王谦等人不满杨坚专权,联合叛变反抗杨坚,爆发尉迟迥之乱。但被杨坚所派的韦孝宽、王谊与高颎等人平定。581年3月4日,北周静帝禅让帝位于杨坚,杨坚登基为帝,即隋文帝,建国隋,北周亡。隋文帝意图南灭南朝陈,采纳高颎的策略:干扰南朝陈的农业生产,破坏陈国的军事储积,使陈国损失惨重,而又疲惫不堪。隋文帝于隋与突厥之战胜利后,587年10月26日废西梁后主萧琮,西梁亡。隔年发动隋灭陈之战,隋文帝命杨广、杨俊与杨素为行军元帅;杨广为总主将、高颎为参谋、王韶为司马,兵分八路攻陈。
杨素率水军从巴东顺长江东下,与荆州刘仁恩军联合占领延州(今长江西陵峡口、湖北枝江附近江中)等上游陈军防御。由公安东援建康之中游陈军也被杨俊军阻于汉口一带,为下游隋军创造有利条件。下游隋军主力乘陈朝欢度元会(即春节)之机分路渡江。行军总管韩擒虎、贺若弼两军钳击建康,与宇文述军包围建康。589年2月10日,联军进入建康城,俘陈后主。不久,各地陈军或受陈后主号令投降、或抵抗隋军而被消灭,只有岭南地区受冼夫人保境据守。590年9月,隋派使臣韦洸等人安抚岭南,冼夫人率众迎接隋使,岭南诸州悉为隋地。
至此,隋朝结束西晋永嘉之乱以来二百八十余年南北分裂的局面,完成中国的大一统。人才济济的隋朝融和关陇世族、关东世族及江南世族,有擅长谋略的高颎、总管政事的苏威,擅长军事的韦孝宽、贺若弼与韩擒虎、还有刘昉、郑译、李德林、元谐、元胄、宇文忻等重臣,形成一个有力的集团。