公元588年十月，杨坚下令向南陈进军。设置淮南行省于寿春，以晋王杨广为尚书令，任命晋王杨广、秦王杨俊、清河公杨素为行军元帅，指挥水陆军51.8万人，同时从长江上、中、下游分八路攻陈。其具体部署是：杨俊率水陆军由襄阳进屯汉口，杨素率舟师出永安（今四川奉节）东下，荆州刺史刘仁恩出江陵与杨素合兵，杨广出六合，庐州总管韩擒虎出庐江（今安徽合肥），吴州总管贺若弼出广陵（今江苏扬州），蕲州刺史王世积率舟师出蕲春攻九江，青州总管燕荣率舟师出东海（今江苏连云港）沿海南下入太湖，进攻吴县（今江苏苏州）。前三路由杨俊指挥，为次要作战方向，目标指向武昌，阻止上游陈军向下游机动，以保障下游隋军夺取建康。后五路由杨广指挥，为主要作战方向，目标指向建康，其中杨广、贺若弼、韩擒虎三路为主力，燕荣、王世积两军分别从东、西两翼配合，切断建康与外地联系，保障主力行动。隋军此次渡江正面东起沿海，西至巴蜀，横亘数千里，是我国历史上一次规模浩大的渡江作战。为了达成渡江作战的突然性，隋在进军之前，扣留陈使，断绝往来，以保守军事机密。同时派出大批间谍潜入陈境，进行破坏、扰乱活动。
整个作战行动主要在长江上游和下游两个地段上同时展开。开皇八年（588年）十二月，杨俊率水陆军十余万进屯汉口，负责指挥上游隋军，并以一部兵力攻占南岸樊口（今湖北鄂城西北），以控制长江上游。陈指挥长江上游诸军的周罗侯，起初未统一组织上游军队进行抵抗，听任各军自由行动。当看到形势不利时，又收缩兵力、防守江夏（今武昌），阻止杨俊军接应上游隋军。两军在此形成相持。杨素率水军沿三峡东下，至流头滩（今湖北宜昌西），陈将戚欣利用狼尾滩（今宜昌西北）险峻地势，率水军据险固守。杨素于是利用夜暗不易被陈军窥察之机，率舰船数千艘顺流东下，遣步骑兵沿长江南北两岸夹江而进，刘仁恩部亦自北岸西进，袭占狼尾滩，俘虏陈全部守军。陈南康内史吕忠肃据守歧亭，（今湖北宜昌西北西陵峡口），以三条铁锁横江截遏上游隋军战船。杨素、刘仁恩率领一部登陆，配合水军进攻北岸陈军，经四十余战，终于在次年正月击破陈军，毁掉铁锁，使战船得以顺利通过。此时，防守公安的陈荆州刺史陈慧纪见势不妙，烧毁物资，率兵3万和楼船千艘东撤，援救建康，但被杨俊阻于汉口以西。周罗侯、陈慧纪也被牵制于江夏及汉口，无法东援建康。
在长江下游方面，当陆军进攻的消息传来，陈各地守军多次上报，均被朝廷掌管机密的施文庆、沈客卿扣压。隋军进至江边时，施文庆又以元会（春节）将至，拒绝出兵加强京口（今江苏镇江）、采石（今安徽当涂北）等地守备。开皇九年（589年）正月初一，杨广进至六合南之桃叶山，乘建康周围的陈军正在欢度春节之机，指挥诸军分路渡江：派行军总管宇文述率兵3万由桃叶山渡江夺占石头山（今江苏江宁县西北），贺若弼由广陵南渡占领京口，韩擒虎由横江（今安徽和县东南）夜渡。陈军因元旦酒会，仍处醉乡之中，完全不能抵抗，韩部轻而易举袭占采石。正月初三，陈后主陈叔宝召集公卿讨论战守，次日下诏“亲御六师”，委派萧摩诃等督军迎战，施文庆为大监军。陈叔宝、施文庆不谙军事，将大军集结于都城，中派一部舟师于白下（今江苏南京城北），防御六合方面的隋军，另以一部兵力镇守南豫州（今安徽当涂），阻击采石韩擒虎部的进攻。隋军突破长江之后，迅速推进。贺若弼部于初六日占领京口后以一部进至曲阿（今江苏丹阳），牵制和阻击吴州的陈军，另以主力向建康前进。韩擒虎部于初七日占领姑孰（今安徽当涂）后，沿江直下，陈沿江守军望风而降。正月初七日，贺若弼率精锐8000进屯钟山（今南京紫金山）以南的白土岗，韩擒虎部和由南陵（今安徽铜陵附近）渡江的总管杜彦部2万人在新林（今南京西南）会合，宇文述部3万进至白下，隋大军继续渡江跟进。至此，隋军先头部队完成了对建康的包围态势。
建康地势虎踞龙盘，向称险要。此时，陈在建康附近的部队仍不下10万，陈后主弃险不守，把全部军队收缩在都城内外，又拒不采纳乘隋先头部队孤军深入立足未稳之机进行袭击的建仪。正月二十日，陈后主决定孤注一掷，命令各军出战，在钟山南20里的正面上布成一字长蛇阵，鲁广达率部在最南方的白土岗列阵，向北依次为任忠军、樊毅军、孔范军、萧摩诃军。但陈军毫无准备，既未指定诸军统帅，又无背城一战的决心，各军行动互不协调，首尾进退不能相顾。贺若弼未待后续部队到达，即率先头部队出战陈鲁广达部，初战不利，贺若弼燃物纵烟，掩护撤退，尔后集中全力攻击萧摩诃部，陈军一部溃败，全军随之瓦解。在这同一天，韩擒虎进军石子岗（今江苏南京雨花台），陈将任忠迎降，引韩部直入朱雀门（都城正南门宣阳门南2.5里），攻占了建康城。
隋朝大军直入朱雀门，陈朝的大臣尽皆散走。此时的陈后主奔至后堂景阳殿，与张丽华、孔贵嫔三人并作一束，同时投入到一口井中。隋兵入宫，执内侍问后主藏到哪里去了。内侍指着井说：“这里。”隋兵看里面漆黑一团，呼喊又没有人答话，直到从上面往下扔石头，才听到里面有求饶的声音。隋兵用绳子拉人上来，士兵奇怪怎么这么重，本来以为后主体胖，出来后才发现后主与张丽华、孔贵嫔同束而上。隋兵都是哈哈大笑。据说三人被提上来时，张丽华的胭脂还蹭在井口，后人就把这口井叫“胭脂井”。
至此，隋文帝杨坚终于统一了全国，结束了自西晋末年以来长达300年的南北分裂的乱世局面。腥风血雨、英雄辈出的南北朝历史就此尘埃落定，任由世人评说。
