尽管禁卫与藩镇兵权均集中在皇帝之手，赵匡胤还不放心，又从兵制上进行改革。他将全国军队分为禁军、厢军、乡兵和蕃兵四种。禁军是从各州挑选来的精壮士兵，待遇优厚，装备精良，训练有素。禁军表面上由殿前都指挥使、侍卫步军都指挥使和侍卫马军都指挥使三帅统领，但由于其将领的名位较低，大权实际上由皇帝亲自掌握。北宋设枢密院，枢密院直接对皇帝负责，宰相及其他官员不得过问。枢密使有调动军队权力，而实际领兵作战的将领往往是临时委派，所以他们又没有调动军队权力，“有握兵之重，而无发兵之权”。为了防止禁军作乱，在具体部署上，一部分禁军驻守京城，另一部分禁军镇守边防要地，两部分禁军数目大致相等，以达到“内外相制”的目的。驻守外地的禁军还要经常移防换地，名义上是“习勤苦、均劳逸”，实际上是为了防止叛变。宋朝从此将不得专兵，士卒也不至于骄惰，但因为兵没有固定的将，将没有固定的兵，无法有效联合；厢兵为地方守军，是各州把精锐选进禁军后留下的士卒，只供地方官府役使，从不练习武艺；乡兵则是按户籍抽调的壮丁，或招募而来的地方兵，名义上是地方守军，并没有一点战斗力；蕃兵是边区少数民族组成的军队，招募来守卫边防的，数量很少。厢军由于待遇低，训练差，无法与中央禁军相抗衡，而乡兵、蕃兵既不常有，也不训练，根本就是有名无实。对此，史学家司马光评价说：“各地方镇，都自知兵力非京师禁军精锐之对手，不敢再生异心。这都是由我太祖能强干弱支、拨乱致治的结果。”（《涑水纪闻·卷一》）
京师蓄有一半禁军，这是惩于唐五代藩镇之祸，蓄兵京师以成强干弱枝之势，保证中央对地方的军事优势，“诸镇皆自知兵力精锐非京师之敌，莫敢有异心者”，但却由此大大加重了京师开封的补给。因为开封的物资更多依赖漕运，因此宋朝建国后，河渠之务上升为最急之务。建隆元年（960年）正月起，赵匡胤下令改每岁征调民夫疏浚漕河，自备口粮，为官给，并为成制。
“杯酒释兵权”从根本上结束了唐朝中期以来藩镇独霸一方、割据称雄的局面，但这一切的措施都是为了加强中央集权，对内严防。兵不知将，将不知兵，能调动军队的不能直接带兵，能直接带兵的又不能调动军队，虽然成功地防止了军队的政变，却严重削弱了宋军的作战能力，最直接的后果便是直接导致宋朝积弱积贫的局面。宋朝虽然有一个庞大的军事体系，但由于武将的权力被大大削弱，军队的效率和战斗力也随之下降，在边患压力尤重的宋朝，更是显出了它的危害。上级的作战计划，下级明知失败也必须执行，以致十战九败，宋军在与辽、西夏、金的战争中连连败北就是明证。南宋朱熹曾说：“本朝鉴五代藩镇之弊，兵也收了，财也收了，赏罚刑政一切收了，州郡遂日就困弱。靖康之祸，虏骑所过，莫不溃散。”（《朱子语类》）一针见血地指出赵匡胤高度集权所带来的弊端。
宋人司马光主编巨著《资治通鉴》，目的就是为了“鉴前世之兴衰，考当今之得失，嘉善矜恶，取是舍非”，即总结经验，供宋朝皇帝参考，以改进政治。而司马光的最核心观点跟宋太祖的“杯酒释兵权”国策如出一辙——加强中央权威，限制武将，削弱地方势力，强干弱支，这也是《资治通鉴》上起战国周威烈王、下止五代后周世宗的原因。
此消彼长，赵匡胤大力抑武，必然要重用文官，甚至包括枢密院这等军事机构以及经略安抚一类武职，也多由文士来担任。宋人蔡襄曾经评论说：“今世用人，大率以文词进。大臣，文士也；近侍之臣，文士也；钱谷之臣，文士也；边防大帅，文士也；天下转运使，文士也；知州郡，文士也。”（《蔡忠惠公集·卷二十二》）这样一来，不仅经常有任用非人的结果，还由此导致了官僚机构重叠，互相牵制，办事效率极低。因而终宋一朝，内政最腐朽，外患最强烈，其局面始终是“兵无制，用无节，国家无法度，一切苟且而已”。对内以文制武，对外妥协求和，如此重内忧而轻外患，从而先后坐视辽国、西夏强大，最终还是自食苦果。
为了形成文士治国的传统，赵匡胤还改革了隋唐以来的科举考试制度。开宝六年（973年）三月，赵匡胤亲自在讲武殿复试举子，开殿试之先例。此后，殿试成为科举定制，取中的进士一律要经过由皇帝本人主持的殿试，而最后的名单和名次也由皇帝钦定，因而所有及第的人都成了“天子门生”。凡于殿试中进士者均立即授官，不需要再经吏部选试。
值得一提的是，宋朝立国之初，赵匡胤曾“密镌一碑，立于太庙寝殿之夹室，谓之誓碑”。并规定以后新天子即位时，必须先到誓碑前跪拜默诵。除了皇帝外，没有人知道碑上的具体内容。一直到北宋灭亡，太庙被金人打开，人们才有幸目睹这座神秘的誓碑。誓碑上的内容竟然是一个秘密誓约：赵匡胤规定子孙后代“不得杀士大夫及上书言事人。子孙有渝此誓者，天必殛之”（《避暑漫抄》引《秘史》）。众人这才恍然大悟，难怪文人士大夫在宋朝得到的优遇，胜过历代王朝。赵匡胤此举，被后世誉为“盛德”（明末清初大家王夫之语）。
不过，世人津津乐道的赵匡胤优待文士，其实不过是抑制武将的副产品而已，他的内心深处，未必真正重视过文士。举例而言，赵普为赵匡胤布衣之交，又一手策划了陈桥兵变，有拥立之功，功劳不可谓不大。他当宰相的时候，吴越王钱□致书问候，还捎带了十瓶吴越的“海味”。赵普把这些瓶子放在堂前，还没来得及拆信阅读，刚好赵匡胤到了，看见厅堂前有十个瓶子，非常好奇，就问赵普瓶子里面是什么东西。赵普如实回答说：“是吴越送来的海产。”但打开一看，瓶子里竟是一粒粒瓜子形状的金子。赵普惊恐万分，满头大汗地向赵匡胤请罪。赵匡胤却笑着说：“但受之无害，彼谓国家事皆由汝书生耳。”（《续资治通鉴·卷七》）
这一笑，表面是不在意，其实是看不起赵普的意思。显而易见，所谓的书生文士在赵匡胤心目中的地位实际上微不足道，即使是百官之首的赵普也是不足虑的待遇。他还有一段更为坦白的话：“五代方镇残虐，民受其祸。朕令选儒臣干事者百余，分治大藩，纵皆贪浊，亦未及武臣一人也。”（《续资治通鉴长编·卷十三》）在他看来，文人再想为恶，能力也始终有限，不过是贪污受贿而已，这就是骨子里的轻蔑了。
赵匡胤集中了禁军精兵的全权后，这才放心地开始调兵遣将，准备实现统一天下的梦想。从整个形势看，宋朝统一全国的实际路径是先易后难，先西南，再东南，然后再向北发展。
建隆三年（962年）九月，割据湖南的武平节度使周行逢死，十一岁的儿子周保权继位。镇守衡州的张文表十分不满，说”我与周行逢俱起微贱，屡立功劳，今日岂能折腰事小儿？”于是揭竿造反，打算称雄湖南。周保权无力自保，便向宋朝求援，正好给了赵匡胤出兵湖南的借口。
当时，在宋朝和周保权之间还有一个割据江陵的南平（又称荆南）高继冲政权，由高季兴建立，以后当国王的依次是高从诲、高保融、高保勖、高继冲。赵匡胤听说高继冲全部兵甲不过三万，实力弱小，便打算借援救周保权的机会，一箭双雕，一举攻灭。
建隆四年（963年）正月，赵匡胤命慕容延钊为都部署，枢密副使李处耘为都监，集十一州兵力，往江陵进发。李处耘先派人去见高继冲，提出“假道”过境的要求。高继冲不知对方不怀好意，还以礼相迎，结果宋军突然冲进城中，占据要冲，高继冲无奈，只得奉表称臣。宋军兵不血刃，即得三州十七县。
而这时湖南的局势又有了新发展，叛将张文表已经被部下杀死，按理说，宋军失去了前往湖南的借口。但慕容延钊仍按原计划继续向湖南进军。周保权听说宋军依旧前来，料知事情不妙，派大将张从富率军抵抗，结果被宋军大败于沣江。朗州（今湖南常德）城守将闻讯，不战自溃，宋师遂克朗州，周保权藏在寺院中被宋兵搜获，湖南由此平定。
荆南和湖南平定得都相当顺利，赵匡胤豪气大增。在一个大雪纷飞的夜晚，他来到已经是宰相的赵普家中。赵普的妻子能烧一手好菜，赵匡胤经常事先不打招呼，微服到赵家，点名要吃赵妻做的烤肉，并亲切地称呼赵妻为“嫂子”。所以，赵普下朝后都不敢轻易换下朝服，以免皇帝突然到来，不及换衣而失仪。但当时夜色已晚，外面又是大雪纷飞，赵普料到皇帝不会出门，正准备更衣就寝，忽然听到敲门声，慌忙跑出，只见赵匡胤站立在风雪中，一脸兴奋。晋王赵光义随即赶到，三人便就地设垫，炽炭烧肉，赵妻亲自服侍斟酒。赵匡胤提出打算讨伐雄踞太原的北汉政权，赵普说：“太原当西北二面，我军若下太原，边患由我独当，我建议不如先征他国，待诸国削平，太原区区弹丸之地，唾手可得。”意思是说，倘若攻下太原，便直接与辽国交界，边患将是个大问题，还是应该先平定中原。赵匡胤大笑：“英雄所见略同，我不过是特意试试你。你认为欲平他国，从何下手？”赵普说：“蜀地！”赵匡胤点头称是，于是，平蜀之策就在烟酒烤肉中定了下来。
乾德二年（964年）十一月，赵匡胤命以忠武节度使王全斌为大将，准备平定后蜀。这时候，后蜀内部分化成和战两派：蜀相李吴曾主张通使于宋，以保平安；掌管军政机要的王昭远狂妄自大，主张抗宋，率兵迎战，还放出大话说：“我此行何止克敌，夺取中原也就易如反掌！”王昭远还劝说后蜀主孟昶派人携带蜡丸书信去联络北汉，共同夹攻宋朝。不料这个送信人来到汴粱后，偷偷将蜡丸书献给了赵匡胤，这刚好给了赵匡胤出兵的借口，赵匡胤大笑说：“我西讨有理了。”于是命王全斌为西川行营都部署，王仁赡、曹彬为都监，率领步兵、骑兵共六万人，分道伐后蜀。宋军入蜀后，大败后蜀王昭远，一路势如破竹，直抵成都。蜀主孟昶出降，后蜀平定。
孟昶有一宠妃费氏，外号“花蕊夫人”，精通诗词，才貌兼备。后蜀灭亡后，孟昶与花蕊夫人都被俘虏，押送到开封拜见宋太祖赵匡胤。七天后，孟昶暴毙，史家多认为是赵匡胤为了方便霸占花蕊夫人有意将其毒死。
孟昶死后，其母李氏不肯哭，还以酒酹地，说：“你不为国而死，贪生以至今日。我所以忍辱偷生，是因为你还在。现在你已死去，我还活着做什么？”随即绝食几天也死去。一名老妇，有此言行，可敬可佩。
赵匡胤趁机将孤苦无依的花蕊夫人收入宫中。因为久闻花蕊夫人才名，赵匡胤让她即席吟诗。花蕊夫人沉思片刻，吟道：
君王城上树降旗，妾在深宫哪得知；
十四万人齐解甲，更无一个是男儿。
颇有骨气。反而让赵匡胤大为倾倒，封花蕊夫人做了妃子。赵匡胤第二任皇后王氏死后，他一度想立花蕊夫人为后，还是宰相赵普以“亡国之物不祥”为由加以劝阻才罢休。
虽然人入宋宫，但花蕊夫人始终不忘故主，绘孟昶画像，私挂奉祀。每当夜深人静的时候，就拿出孟昶画像，默默流泪。有一天，赵匡胤偶然看见宠妃祭祀一陌生男子的画像，十分不快，追问情由。花蕊夫人急中生智，说：“所挂张仙，为送子之神，蜀人皆如此。”赵匡胤这才未追究。传说所谓“张仙送子”画像后来从禁中传出，民间妇女想生子也都虔诚祭拜。
花蕊夫人一直很受赵匡胤宠幸，但她始终没有生下子女，对皇子赵德昭甚为喜爱，曾游说赵匡胤立赵德昭为皇太子，赵匡胤没有同意。花蕊夫人介入立储之争，触犯了一直觊觎皇位的晋王赵光义的利益。一次皇家狩猎时，赵光义假意失手，一箭射死了花蕊夫人。赵匡胤虽然痛心，但也没有追究。
开宝三年（970年），赵匡胤以潘美为大将，领兵攻打南汉。之前，赵匡胤因为对北汉用兵，无暇顾及南汉，曾派人送信给南唐后主李煜，命李煜告诫刘□，赶紧归顺宋朝。刘□拘留了李煜的使者不说，还写了一封信，对李煜多有谩骂。李煜将这封骂信转送宋朝廷，赵匡胤被激怒了，决定攻打灭掉南汉。
南汉国由刘□建立，以后的国王依次是刘玢、刘晟、刘□。自中宗刘晟时期开始，南汉国宦官女宠当道。后主刘□即位后，权力由宦官及宫女分掌，朝政皆出自宦官。刘□擢藩府旧僚钟允章为尚书右丞、参政事，颇倚重。钟允章请诛乱法者以正纲纪，刘□畏惧宦官的势力，没有听从，但宦官却对钟允章怀恨在心。时隔不久，宦官内侍监许彦真、李托、玉清官使龚澄枢等人乘祀圜丘之际，诛杀钟允章及二子。刘□非但不能治，反以龚澄枢为左龙虎观军容使、内太师，军国之事均取决于龚澄枢。当时南汉国中凡有才能或状元、僧道可与谈论者，均先下蚕室阉割，然后才得进用，也有自宫求进，或免死而宫者，国中有宦官近二万人，显要用事之人，大抵皆宦官。宦者称士人为门外人，不得参与政事。
这样一个宦官乱政的国度，自然没有任何实力与新锐宋朝对抗。当宋将潘美一举攻下贺、昭、桂、连四州后，南汉主刘□还说：“这些州本来是湖南地，宋兵得此就满足，不会再南来。”但是，潘美继续南下，兵逼韶州。韶州是南汉的北大门，是广州的屏障。南汉都统李承渥率十万大军屯蓬华峰下，列象为阵，每只象载十余人，气势嚣张。潘美令弓箭手射象，众象返奔，象兵纷纷落地，宋师乘势出击，大败李承渥，遂克韶州。刘□又命郭崇岳为招讨使，率六万大军屯马迳，但郭崇岳不作战备，专事鬼神。宋师连破英、雄二州，直逼广州。刘□见形势不妙，准备船载金宝、妃嫔逃入海中，但宦官与士兵先盗船逃走。刘□欲走不得，只得素服出城投降，南汉就此平定。
宋军灭掉南汉后，将全部宦官杀死，将刘□等送到开封。刘□被授为检校太保右千牛卫大将军，封恩赦侯。刘□之前经常置毒酒害死臣下。有一次他随赵匡胤到讲武池赴宴，其他人没到，赵匡胤便先赐他一杯酒，刘□以为是毒酒，哭着说：“我承祖父基业，违拒朝廷，劳王师讨伐，罪固当杀。陛下已待臣以不死，我愿做大梁一个平民百姓，看看太平盛世，所以不敢饮这杯酒。”赵匡胤笑着说：“我推赤心于人腹中，哪会有这种事。”于是自己喝了刘□那杯酒，再赐他另一杯酒。刘□深感惭愧，一再致谢赔罪，赵匡胤也没有介意。
南汉灭亡后，赵匡胤将下一个目标对准了南唐。南唐是江南大国，南唐为李昪所创。李昪，徐州（今江苏徐州）人，字正伦，小名彭奴，其父亲本姓潘，名荣，是一个虔诚的佛教信徒。彭奴出生时，黄巢兵败身亡不久，时局混乱，兵荒马乱。彭奴在六岁时父亲就死了，他随母亲跟着伯父一起到了淮南。不久，母亲也不幸去世。成为孤儿的彭奴跟着伯父投身到濠州开元寺做了一名小沙弥（和尚），勉强维生。恰逢攻下濠州的杨行密（唐昭宗时淮南节度使，五代十国时期吴国的建立者）到开元寺住宿，见彭奴相貌不凡，勤劳机警，对答伶俐，不由十分喜爱，于是就想将他收为养子，但亲生儿子们极力反对，杨行密无奈只好把彭奴给了属将徐温（和刘威、陶雅等号三十六英雄）。彭奴就做了徐温的养子，改名为徐知诰。杨行密死后，大权落在徐温手中，徐温死后，则落入徐知诰手中。徐知诰称帝后，为了以唐正统作号召，复姓李氏，改名为昪，是为南唐烈祖。李昪还尊徐温为义祖，表示不忘义父养育之恩。
李昪在位七年而卒，长子李□继位，就是唐元宗。李□共兄弟五人，因李昪生前钟爱次子和四子，并在病危时有传位四子之意，由此造成李□兄弟之间矛盾重重。□元七年（943年），李□继位时，“以仲弟遂为皇太弟，季弟达为齐王，仍于父柩前设盟约，兄弟相继”。改元“保大”，希望不动干戈保持太平。由此可见李□身上的文弱气息。李□初即位，尚能锐意进取，攻灭闽国、楚国，南唐疆土遂“东暨衢婺，南及五岭，西至湖湘，北据长淮，凡三十余州，广袤数千里，尽为其所有，近代僭窃之地，最为强盛”。南唐国势渐强。
然而，江南自古便是鱼米之乡，较为富庶，且民风温软，有享乐的传统。李□的生活也开始奢侈，专尚浮靡。他爱好文学，诗词都写得很好，“时时作为歌诗，皆出入风骚”，名句“细雨梦回鸡塞远，小楼吹彻玉笙寒”便是他所做。由此，李□也重用文士，名士韩熙载（传世名画《韩熙载夜宴图》中的主人公）、冯延巳、江文蔚、潘佑等都在南唐朝中当大官。但这些人都是绣花枕头，对治国施政一窍不通。冯延巳专门拈弄笔墨，不以政事为意。而韩熙载为人更是放荡不羁，经常当着姬妾们的面，以手探宾客的私处，议论阳具的大小，以为笑乐。他养有姬妾四十余人。朝廷给他的俸禄，全被姬妾分去，他就穿上破衣，背起竹筐，扮成乞丐，走到各姬妾住的地方去乞食，以为笑乐。
李□受到这群文士的包围，日夕饮酒作诗词，朝政腐败不堪。后周世宗柴荣伐南唐，南唐丧失了淮南江北十四州。李□向后周上表，尽献江北之地，划江为界，愿以国为附庸，去帝号，改称南唐国主，奉后周正朔。从此，南唐国势不振。北宋建立后，李□继续纳贡称臣，奉北宋正朔。
值得一提的是，就在柴荣病死的当年，辽国与南唐断绝了往来。南唐雄踞江南，地处江淮之间，辽则远属塞北，两国中隔中原地区，王朝更迭频繁，但南唐与辽一直互通友好，隐隐有远交近攻的策略。开元年间，契丹曾数度遣使至南唐，献马、羊等。南唐保大元年（942年），中主李□即位，曾遣公乘镕由海上至契丹，以续旧好，两国使节不断，南唐宋齐丘还曾经利用杀辽使事件以离间后晋与契丹的关系。后周时，对辽国与南唐相交深以为忌，有意从中破坏。显德六年（959年）十二月，辽国派遣使者到南唐，南唐特意为辽使者在清风驿举行盛大的夜宴，辽使酒酣之时，离席去上厕所，被后周泰州团练使荆罕儒派遣的刺客所杀。南唐久等不见辽使回来，赶到厕所，才发现辽使首级已被割下。从此，辽国与南唐断绝往来。
公元961年，李□病死，终年四十六岁，儿子李煜继位，世称南唐李后主。李煜即位时，正值雄才大略的宋太祖赵匡胤统一天下，先后讨平了南平、后蜀、南汉。李煜深怕遭受与这些亡国之君一样的命运，忧惧不已。然而，他是一个地地道道的文人，对军事和政治没有任何兴趣，不知道锐意进取，只知道借酒消愁，与身边的女人春花秋月。
李煜身边有几个著名的美女。宫女窅娘用帛缠成小脚，用足尖支撑身体舞蹈，“凌波妙舞月新升”，深得李煜赞赏。据说，这是中国古代芭蕾舞的发端，而妇女缠足也是自窅娘起蔚然成风。
李煜妻子周后是钱塘著名美女。周后，小字娥皇，大司徒周宗的女儿。十九岁与李煜成婚。李煜即位，立为皇后。周后精音律，善歌舞，通书史，至于采戏弈棋，也无不绝妙，可称得上是五代十国时期的一位才女。据《南唐书》记载：“唐朝盛时，霓裳舞衣曲为宫廷的最大歌舞乐章，乱离之后，绝不复传，后（大周后）得残谱，以琵琶奏之，于是开元天宝之余音复传于世。”可见周后在音律上造诣极深，与李煜可谓是志同道合，因此二人之间产生了真挚的爱情，堪比当年的唐玄宗和杨贵妃。
可惜好景不长。周后四岁的儿子仲宣有一日在佛堂玩耍，刚好有一只大猫趴在佛堂中高悬的琉璃灯上。大猫突然跃下，琉璃灯跟着摔下，小仲宣受惊吓而死。本已有病的周后惊闻儿子惊悸而死，病情转重，也撒手西去。
周后有妹，天真烂漫，清新自然，美色无双。周后死后，周后的妹妹顺理成章地当上了皇后，史称小周后。据说周后卧病在床时，李煜已经与小周后偷偷私会调情。陆游《南唐书·后纪传》说：“或谓后寝疾，小周后已入宫中。后偶事幔见之，惊曰：‘汝何日来？’小周后尚幼，未知嫌疑，对曰：‘既数日矣。’后患怒，至死面不外向。放后主过哀以掩其迹云。”马令《南唐书·后妃传》又经：“后自罗惠殂，常在宫中。后主乐府词有‘衩袜下香阶，手提金缕鞋，道类，多传于外。至纳后，乃成礼而已。”后来一些画家以李煜与小周后为题材，将二人幽会的情景画入画中，即著名的《小周后提鞋图》。
在风流浪漫生活的同时，李煜对宋朝卑躬屈节，不断以金帛珠宝结宋朝皇帝的欢心。史载：“煜每闻朝廷出师克捷及嘉庆之事，必遣使犒师修贡。其大庆，即更以买宴为名，别奉珍玩为献。吉凶大礼，皆别修贡助。”想以此来维持他在江南的统治。但是，他的懦弱，他的无能，他的臣服，并没有改变赵匡胤消灭南唐的决心，按赵匡胤霸气十足的说法是：“江南没有什么大罪，但天下一家，卧榻之侧，岂容他人鼾睡！”
赵匡胤灭南汉后，便在荆湖造大舰龙船数千艘。当时江南池州人樊若水在南唐不得志，便想归顺宋朝。他假装在采石江面钓鱼，乘小船，载丝绳，往来于南北岸几十次，测得了江面的宽度，以此作为大礼上书宋朝，请造浮桥渡江。赵匡胤考虑到宋军大多为北方人，不习水战，便采纳了樊若水的意见。
