用和亲和修筑长城来抵御突厥，这样隋文帝没有进行大规模的战争，便得到了北部边境的安宁，隋王朝得以集中力量南下，实现中国统一。
南灭陈朝
此时，南方的陈王朝在陈叔宝的统治下已腐朽到极点，国家资产枯竭，劳役无穷尽，百姓困苦万分，陈已失去统治的基础。隋文帝进行了充分的准备。在长江中上游大量造船只，在下游准备渡江。隋文帝又下诏书历数陈叔宝的罪状，并印制了几十万份在江南和陈军中广为散发，一方面鼓舞了自己军队的士气，另一方面也起了瓦解敌军的作用，使隋军在进攻之初，便在政治上、军事上处于有利地位。
开皇八年（588）秋，隋文帝命晋王杨广为主帅，发兵51万，东起渤海，西至今四川，在整个长江沿线水陆并进，向陈发动了大规模进攻。这时陈王朝共有兵力不过10万，而君臣们都依仗长江天险和“金陵王气”，仍生活在花天酒地之中，面对隋的全面进攻，陈首尾不能相顾，根本无力抵抗，仅三个月的时间，隋便消灭了陈，实现了统一中国的大业。战争的迅速结束，大大减少了对社会的破坏程度和对人民造成的痛苦，受到各族人民的热烈欢迎。
当南下军队回到长安后，隋文帝下令奖赏有功将士，同时免去原陈朝管辖地区的10年赋役，发展农业生产。他还认识到，战争已经结束，要尽可能消灭一切可能危及他的统治的隐患，于是下令在陈边疆和京师守卫军队以外，其余的兵器等军事装备应立即停止制造，民间兵器应全部销毁；军人子弟应尽力改学文，功臣后代应熟读一经，把尚武之风变为习文之气。开皇十五年（598），杨坚又下令收缴天下所有兵器，若发现私自打造者严惩。这些措施说明杨坚希望老百姓各安其业，老老实实做他的顺民，但也对生产的发展和社会稳定起了一定的积极作用。
建国的改革措施
在天下基本稳定后，杨坚实行了一系列改革措施，以巩固他的统治。
在官制方面，北周官制多模仿《周官》设置，既乱且滥。隋文帝废除北周官帛，恢复汉魏旧制，并加以调整，建立起一整套相当严密的政治机制。设三师、三公及五省。三师只是给予德高望重者的荣誉职衔；三公也只是顾问性质，没有实权，也不常设；五省才是真正的权力机关，其中内侍省和秘书省分管宫中琐事与国家图书历法，不占重要位置，最重要的是门下、内史和尚书这三省。门下省和内史省是协助皇帝执政的决策机构，掌管机密，共商国政，并负责审查皇帝发布的诏书，签署大臣的奏章，对皇帝可以提出自己的意见或建议，对奏章可以驳回或进行处理。尚书省是主持日常政务的机构，下设吏、礼、兵、刑、户、工六部。隋文帝创三省六部制对中国历史有巨大贡献，正如秦始皇创三公九卿制为汉以后各朝所沿袭，隋文帝创隋制，为唐以后各朝所遵循。
在农业方面，隋文帝沿用北魏以来的均田制，规定每个成年男子可以受露田80亩。永业田20亩，成年女子只受露田40亩。奴婢分田数量与一般农民相同，收入归主人所有。永业回归自己，露田在死后归公。隋文帝推行的均田制当然包括贵族官僚甚至包括其奴婢耕牛的分配土地，但毕竟为一般农民提供了一定量的土地，出现一大批自耕农。自耕农的大批出现及其经济的发展是封建经济发展的基础。有的史学家认为均田制的实施是中国封建经济史上的一件大事。孟子所理想的井田制，以均田制的形式付诸实施，隋朝以及后来唐朝经济比两汉南北朝经济有进一步的发展，均田制起着积极影响。
隋文帝所定制度，是总结秦、汉至南北朝时期时的制度，从而提高到新的阶段，唐以后历朝的制度都可以上溯隋制，特别是唐朝。唐朝重要制度，都在贞观时期制定，基本上沿袭隋制。
隋文帝也关心群众生活。他常派人潜听吏治得失、人间疾苦。关中闹饥荒时，他听说百姓吃豆屑杂糠，便深深自责，将近一年不吃肉。他注意宽恤民力，与民休息，即位不久就把宫中五千头驴无偿分赐给贫苦农民，并禁止官吏放高利贷剥削农民。至隋文帝晚年时，国家粮库暴满，民户也增至890万。《隋书》评论在隋文帝的统治下，“君子咸乐其生，小人各安其业，强无凌弱，众不暴寡，人物殷阜，朝野欢娱”（每个人都能安居乐业，大家相处融洽，物资堆积）。这也反映了隋文帝统治下国家的兴旺昌盛。
同时，隋文帝很重视人才的选拔。他即位不久，就废除了按门第高低选用官吏的九品中正制，开始实行科举制选拔人才，使一般下层人才都有入仕的机会，扩大了统治基础。隋文帝之所以能成为一代名君，在很大程度上也与他的知人善任、重视人才分不开。如宰相高颎，当朝辅政近20年，对隋的强盛起了很大作用。杨坚代周，高颎是高参；尉迟迥武装反抗，高颎自告奋勇率军平叛。至于政治、经济改革的许多重大决策，杨坚都得之于高颎，因而杨坚视之为最得力的助手，非常信任他。他常把高颎比作镜子，可以矫正自己的过失，又把自己的孙女嫁给高颎的儿子，而高颎也以兢兢业业、日夜操劳来报答隋文帝，并推荐了苏威、贺若弼、韩擒虎等一代名臣名将辅佐文帝。
此外，杨坚还下令统一全国的度量衡，这是自秦以来度量衡的一次大改革，其目的是为了促进统一。
隋文帝还注重节俭治国，反对奢侈，并注意随时教育太子杨勇要节俭。一次，他看到杨勇穿的铠甲花纹华丽，就教育他说，奢侈腐化不会使政治长治久安，注意节约方能顺民心、承帝业。这说明隋文帝对节俭治国的重要性有清醒的认识。
明显的过失
杨坚代周建隋，在政治、经济等领域进行了一系列有效的改革，北抚突厥，南灭陈朝，完成国家统一，舒缓民力，发展生产，是一个很有作为的皇帝。但杨坚又有不少缺点：天性多疑，喜怒无常，不重视学术，迷信崇佛等。因此他往往受到后世批评，也为隋的早亡埋下了伏笔。
杨坚非常迷信，崇信佛道、符瑞、阴阳五行及各种鬼怪。在他初任丞相时，就下令对原来的和尚、道士进行挑选，让其各操旧业。称帝后，便下令听任天下百姓出家当和尚、道士，在全国范围内按人口征钱，在各地营造佛寺，塑佛像，缮写佛经等。应该说，隋唐佛教的兴盛与杨坚的大力提倡是分不开的。
杨坚有些怕皇后，听信皇后独孤氏的话。杨坚上朝，独孤氏也同车相随，跟到宫门外，然后派宦官跟着杨坚上朝，若发现杨坚有处理不当之处，独孤氏就谈自己的意见让太监转达，杨坚就要马上改正，所以宫中将他们二人称为“二圣”。
太子杨勇，奢侈好色，失去了父母的宠爱。善于察言观色的杨广便谋划取而代之，百般讨好独孤氏。杨广本也是好色之徒，一次父母来看他，他让美貌的姬妾藏起来，只留下老丑的，又把家里的珍宝收藏起来，吃的是粗茶淡饭，隋文帝和独孤氏便认为他生活俭朴，更加器重他了。杨广又让其谋臣杨素在独孤氏面前说杨勇无才，而杨广像文帝，节俭不好女色。独孤氏便怂恿杨坚另立太子。隋文帝听信了杨素与独孤氏的话，最终立杨广为太子，从而埋下了隋朝二代而亡的祸根。
为亲生儿子所杀
仁寿四年（604），隋文帝在仁寿宫病重，这时他想到国家还没治理得很好，好在太子杨广仁孝节俭，很有志向。但杨广这时正为帝位加紧活动，写信给杨素征求处理杨坚死后工作的意见。然而杨素的回信却被误送到杨坚手中。杨坚看信后大怒。这时他的宠妃宣华夫人又披头散发冲进来，说太子杨广对她无礼，更令杨坚恼怒异常，后悔更换太子，便让人赶快召杨勇来。杨广得知此事后，派亲信把侍候杨坚的人全部赶出去。给杨坚喝下毒酒，就在这一天，杨坚被自己的亲生儿子害死，终年64岁。
隋文帝在建隋，实现全国统一，采取一系列措施巩固统治、发展经济等方面做出了杰出贡献。他北抚突厥，为民族和睦、边境安宁做出了贡献；在农业、官制、军事等方面的改革又为后世所沿用，促进了封建社会的繁荣与发展。他注重节俭，重视用人，注重选拔良吏，反对贪污，在一定程度上保证了吏治的清明，有利于他的统治，有益于百姓。但他不喜读诗书，废除学校，也是统治措施的失败之处。听信妇言、废掉太子、埋下了隋朝早亡的祸根。综合的说，隋文帝功大于过，还是一个值得肯定的封建帝王。