南北朝后期，宇文泰之子宇文觉于公元557年代西魏称帝，改国号为周，建都长安（今陕西西安）。史称北周。北周武帝宇文邕于公元577年灭亡北齐，统一了北部中国。周武帝于578年死去，子宇文蠹次唬是为周宣帝。这是一个荒淫奢侈而又无能的皇帝，他为政酷虐，使得内外恐惧，人不自安。折腾了两年即死去，继位的周静帝年仅八岁，杨坚以外戚兼重臣的身分入宫辅政，掌握了北周的军政大权。
杨坚出身关陇集团的汉族地主家庭，父亲杨忠是北周的大将，后升柱国，受封随国公。杨忠死后，由杨坚袭爵。杨坚娶鲜卑大贵族、八柱国之一的独孤信之女为妻，他的女儿又是周宣帝的皇后。一家门第显赫，地位崇高。
杨坚辅政后，自封为大丞相、都督中外诸军事，并立即着手革除周宣帝留下的苛政。一些地方军阀不满，起兵反抗，如相州（今河南安阳）、青州（今山东益都）、益州（今四川成都）、郧州（今湖北安陆）的几个总管发难举兵；在中央的宇文氏宗室也阴谋推翻杨坚。一时间形势严峻。杨坚采取果决行动，分兵前往镇压，平定反叛，并将宗室诸王尽数杀死，仅留下了一个周静帝。581年二月，杨坚发动宫廷政变，逼迫周静帝让位，代周称帝，改国号为“”。因杨坚袭父爵为随国公，随带“走”字，故去“走”作隋。改元开皇，仍都长安。杨坚即为隋文帝。
隋文帝建立隋朝后，便开始了统一全国的军事行动。当时的主要目标是消灭中国南部的陈朝。
在灭陈之前，先灭掉了建都于江陵的后梁，这样，就打开了一条向江南进军的通道。
灭亡陈朝，统一全国，是人民的需要，历史发展的必然。自从公元316年南北分裂以来，频繁的战争，阻碍了南北经济文化的进一步发展和交流，也使广大人民担负着沉重的兵役和劳役。人民深受分裂之苦，越来越迫切地要求结束这种局面。隋文帝在经过长期的准备之后，于开皇八年（588年）春，下伐陈诏，历数陈后主（陈叔宝）罪恶二十条，并将诏书抄写三十万份于江南各地广为散发。同年十月，在寿春（今安徽寿县）设置南行台省，隋文帝的儿子杨广为行台尚书令，总理灭陈事宜；又命杨广、杨俊、杨素为行军元帅，分兵八路，合计总管九十，兵力五十一万八千人，大举攻陈。隋将贺若弼、韩擒虎分兵两路，直指陈都金陵。
当隋朝积极进行准备之时，以陈后主为首的陈朝统治者却继续过着荒淫无耻、醉生梦死的生活，朝政腐败，国势日衰，人民痛苦不堪。陈朝边将的告急文书频频传来，可陈朝的昏君佞臣依然整天纵酒赋诗，恣情享乐。陈后主还大言不惭地说：“王气在此，齐兵三来，周师再来，无不摧败，彼何为者耶！”佞臣孔范随声附和说：“长江天堑，古以限隔南北，今日虏军岂能飞渡耶！”并自恃有大军十万，不以为忧。开皇九年正月，韩擒虎、贺若弼两军渡过长江后，分别由京口（今江苏镇江）和采石（今安徽当涂县境）合围建康（今南京市），并迅即攻进都城。刚从酗酒中惊醒的陈后主慌忙躲入景阳宫中的一口枯井内。隋军入宫搜索，用竹篮子系着绳索把他拉上来，兵士奇怪如是沉重，及至拉上来一看，才发现他和宠妃张丽华、孔贵嫔相拥着都坐在篮子里。
隋文帝灭陈，前后仅花了四个多月的时间。隋朝的统一，结束了自西晋末年以来三百年的分裂割据局面，重建了统一的中央集权国家。
隋文帝为了巩固地主阶级的统治，加强中央集权，进行了若干改革，确立了各项制度。在政治上设置政权机构和健全职官制度。在中央一级，废除了北周仿照《周礼》建制的六官，确立了三省六部制，这对后世影响较大。在地方政权的机构设置上，废除了郡一级，实行州、县两级制，又并省了一些州县，裁汰了一批冗官。这样一来，节省了行政开支，提高了行政效率，加强了中央对地方的控制。在选举制度上，废除了作为门阀专政工具的九品官人法，逐步建立了科举制。科举制的设立，是件了不起的大事。自魏晋以来，门阀世族把持政权，门第的高低成了选举用人的主要标准。西魏、北周时开始打破这种局面，选官以才德为主，不限“门资”。隋文帝继续推行这一政策，重才德而不重家世门第；实行地方保送士人到中央参加秀才、明经等科目的考试，考试合格者不论门第高低均可授任官职。隋炀帝时又增设了进士科。进士科的设置，标志着科举制的建立。
隋文帝十分重视法律制度，即位之初，即命高等人制定新律，但大多沿袭北魏、北齐的律令。583年，文帝又令苏威、牛弘等人进行改定，经过改定而成的刑律就是《开皇律》。这个律令废除了一些酷刑，如枭首、玖选⒐刑等，又减省了死、流、徒、杖等刑律一千多条。《开皇律》是一部较为完备的封建法典，对后世有很大影响，如唐律就是沿袭它而来的。
隋文帝在军事方面的重大改革是，使府兵制与均田制结合起来，完成了由兵民分治到兵民合一的转变。既增加了国家的编户，扩大了兵源，又促进了农业生产的发展，还加强了皇帝对军队的控制。
在经济方面，隋朝沿用北魏以来的均田制和赋役制而略有改变，并对农民的剥削有所减轻。如灭陈的当年，以“江表初定，给复（免除徭役）十年。其余诸州，并免当年租赋”。第二年又以“宇内无事”，下诏百姓年五十者，输庸停防。
隋文帝统一全国后所采取的一系列措施，有利于社会经济的发展。到了609年，全国有四千多万人口，工商业在农业的基础上日益发达，纺织业和造船业最为兴旺。都市繁荣，长安、洛阳是隋朝的东、西两市，东市名都会，西市名利人。因系国都所在，人物荟萃，华戎混杂，商业十分繁荣。
隋朝政府把剥削得来的粟帛大量地储藏在长安、洛阳及其附近地区的粮仓府库内。据记载，在河南巩县的洛口仓，仓城周围二十里，内穿三千窖。在河南孟津县的洛口仓，仓城周围十里，内穿三百窖。两处共积米二千多万石。已发掘出来的洛阳含嘉仓，已探出粮窖二百五十九个，大窖可储粮一万多石，并在一个粮窖内发现炭化的谷子五十多万斤。到隋文帝末年，“计天下储积，得供五六十年”（《贞观政要》卷八），国库粮绢的充裕，实为前代所未有。到了隋末，洛阳的布帛堆积如山，太原的粮食可支十年。唐朝贞观十一年（637年），马周曾对唐太宗说：“隋家贮洛口仓，而李密因之；东京积布帛，王世充据之；西京府库，亦为国家之用，至今未尽。”这时，唐朝已立国二十年之久，隋朝的府库还未用尽，足见隋朝仓窖府库的充实。