北宋取代后周之际，五代十国的分裂局面尚未结束。当时，在北方有强大的契丹及其卵翼下的北汉，在南面和西边，有南唐、吴越、南汉、后蜀等较大的割据政权；在福建有陈洪进割据漳、泉一带，周行逢割据湖南一带，高保融割据荆南等。这些大小割据势力中，北汉依靠契丹的支持与宋为敌；南唐虽然慑于宋军的兵威，想方设法讨好赵氏，暗中却与宋军严阵以待；后蜀和南汉也极力想保持割据地位，对宋持敌对态度；吴越虽然顺从于宋，但也仍然割据五方。对宋王朝来说，当时的形势是“一榻之外，皆他人家也”。
宋太祖赵匡胤建立政权后，在消灭了统治集团内部的异己势力、稳定局势的同时，即着手统一全国的战争。他经过认真分析，听取大臣建议，制定了一个先易后难、先南后北统一全国的战争方略。根据这一方略，公元963年，宋太祖出兵攻荆南(南平)，接着又挥师挺进湖南。荆、湖两个割据势力被削平后，就使南汉暴露在宋军的兵锋之下，后蜀、南唐的翼侧也暴露无遗。这就使宋太祖获得了进军钳击后蜀和南唐的有利战略态势。
公元972年2月，宋军进逼广州，南汉刘金长投降。947年9月宋大将曹彬率10万大军进攻南唐，南唐主李煜降。削平南唐是宋太祖领导的统一战争胜利的高峰。南唐亡后，割据长江流域及其以南地区的一些势力，基本上为宋所灭。
公元976年(宋开宝九年)10月20日夜，宋太祖赵匡胤突然死去，其弟赵光义登上了皇帝的宝座，史称宋太宗。宋太宗即位之后，立志把其兄统一全国的未竟事业进行下去。公元978年，迫于宋王朝的军事压力，割据漳州、泉州的陈洪进献土归降；吴越钱亻叔也归宋称臣。至此，南方的割据势力削平，消灭北方割据势力的时机已经成熟。宋太宗遂把北征灭汉的战略目标提到议事日程。
宋太宗从外交和军事两个方面进行了灭亡北汉的准备。他在两年多的时间里，派遣了6批使臣赴辽，对了作出和平友好的姿态，对辽使来宋也盛情款待，以此来离间辽与北汉的关系，掩盖自己的战略企图，使辽放松了同宋进行军事对抗的准备。与此同时，又加紧精选将士，进行紧张的战前训练，加紧修造兵器和攻城器械。
公元979年正月，宋军在潘美的统率下，兵分4路，围攻北汉的统治中心太原。辽军未能阻止宋军的进攻，派出的援军被宋军在石岭关击溃，几乎全军覆没。宋军对太原围攻日急，北汉被迫投降。北汉被削平后，中原地区和南方基本上实现了统一，分崩离析的五代十局面宣告结束，从此北宋王朝开始了100余年的局部弹琴局面。