同年十月,柴荣第三次亲征南唐,目标是夺取全部的江淮之地。十一月克濠州,继在洞口(今安徽五河东浮山下)破南唐援军,乘胜东进,连破泗、海、楚(今江苏连云港西南)等州,军至高邮、扬州。次年正月,柴荣亲率战舰数百艘大败南唐水军,并趁势逼近金陵(今南京)。李璟害怕后周军南渡,急忙遣使求和,献庐、舒(今安徽合肥、潜山)、蕲、黄(今湖北蕲春、黄州)四州,划江为界,纳贡称臣。柴荣怕再下江南,辽和北汉会在后方乘虚来攻,于是接受了南唐的投降,和南唐签订合约。至此,后周尽得淮南14州60县之地。后周国力骤然增强,也同时震慑了南方各割据势力,为北伐扫除了后顾之忧。
显德六年(公元959年)三月,柴荣亲自统军北伐。四月十七日,后周大军到达沧州,辽刺史王洪首先举城投降。不战而得城,后周军士气大为振奋,随后加快了进军速度,二十六日抵达益津关(今河北霸县),契丹守将终延辉又开关投降。赵匡胤领军进至瓦桥关(今河北雄县西南),守将姚内斌献关投降。韩通领军进至淤口关(今河北霸县东信安镇),守将也献关归降。不久,契丹莫州刺史汉人刘楚信、瀛州刺史汉人高彦晖等又接连举城归降。柴荣出兵42天,兵不血刃,已收复了三关,共得3州17县之地,取得了五代以来对辽作战最大的胜利。柴荣调兵遣将,准备乘势直取幽州(今北京),但就在此时,柴荣突然身染重病,在众将的劝说下,才同意班师回朝。在撤军之前,柴荣将瓦桥关改名为雄州,将益津关改名为霸州,并留下韩令坤、陈思让两将率兵戍守,以待来年再次北伐。