同年十月，柴荣第三次亲征南唐，目标是夺取全部的江淮之地。十一月克濠州，继在洞口（今安徽五河东浮山下）破南唐援军，乘胜东进，连破泗、海、楚（今江苏连云港西南）等州，军至高邮、扬州。次年正月，柴荣亲率战舰数百艘大败南唐水军，并趁势逼近金陵（今南京）。李璟害怕后周军南渡，急忙遣使求和，献庐、舒（今安徽合肥、潜山）、蕲、黄（今湖北蕲春、黄州）四州，划江为界，纳贡称臣。柴荣怕再下江南，辽和北汉会在后方乘虚来攻，于是接受了南唐的投降，和南唐签订合约。至此，后周尽得淮南14州60县之地。后周国力骤然增强，也同时震慑了南方各割据势力，为北伐扫除了后顾之忧。
显德六年（公元959年）三月，柴荣亲自统军北伐。四月十七日，后周大军到达沧州，辽刺史王洪首先举城投降。不战而得城，后周军士气大为振奋，随后加快了进军速度，二十六日抵达益津关（今河北霸县），契丹守将终延辉又开关投降。赵匡胤领军进至瓦桥关（今河北雄县西南），守将姚内斌献关投降。韩通领军进至淤口关（今河北霸县东信安镇），守将也献关归降。不久，契丹莫州刺史汉人刘楚信、瀛州刺史汉人高彦晖等又接连举城归降。柴荣出兵42天，兵不血刃，已收复了三关，共得3州17县之地，取得了五代以来对辽作战最大的胜利。柴荣调兵遣将，准备乘势直取幽州（今北京），但就在此时，柴荣突然身染重病，在众将的劝说下，才同意班师回朝。在撤军之前，柴荣将瓦桥关改名为雄州，将益津关改名为霸州，并留下韩令坤、陈思让两将率兵戍守，以待来年再次北伐。