赵匡胤用计夺了周朝江山，自己做了宋朝开国皇帝之时，正是重重矛盾交加之际。赵匡胤胸有成竹，勇敢地面对各种矛盾。潞州节度使李筠和扬州的淮南节度使李重进，不服赵匡胤，也想当皇帝。赵匡胤就派大将石守信率领勇猛的宋军打败了他们。灭了二李，其他想反抗的看到这种局面也不敢动了，这时候，宋朝的政局才稍稍安定。
为了防止后周残余势力东山再起，他采取安抚策略，对周世宗的符皇后、刚做不几天皇帝的柴宗训迁往西宫，进行封赏，命令有关人照顾好他们的生活；对后周文武大臣仍旧留用。对拥护他称帝有功的人予以重赏：石守信为归德军节度使，高怀德为义成军节度使，张令铎为镇安军节度使，王审琦为泰宁军节度使，慕容延钊为殿前都点检，赐皇弟赵匡义为殿前虞侯，改名光义。
宋太祖对有功人员做了两手准备：一是大加封赏，二是防范他们居功自傲。一位跟随赵匡胤打天下立了战功位居京城巡检官的王彦升，半夜三更到宰相王溥家胡闹，王溥系后周留用官员，王彦升没把他放在眼里。第二天，王溥向赵匡胤反映了此事，赵匡胤豪不留情，撤了王彦升的职，使后周留用的大臣，很受感动，从心里拥护这位宋朝开国皇帝。
对于不愿归顺宋朝的几个节度使，赵匡胤不慌不忙，一个个把他们制服。
赵匡胤为了了解民间实情，经常微服私访，赵普劝他小心，防止大臣生变。赵匡胤说：“这些重臣，都与朕故交，不致生变，卿不用多虑。”赵普说：“臣不是疑虑这些人不忠，而是看他们不是帅才，难以统帅部下。一旦军中有人胁迫他们谋反，恐怕不得不听啊！”这句话，说到赵匡胤的心里，他也担心将来发生这件事。赵普建议他把一切权力都收归自己，赵匡胤暗暗点头。
第二年秋天，太祖赵匡胤召赵普入殿推心置腹谈话。他说：“自唐（后唐）以来，几十年间，帝王换了8姓、12人，战乱不止，百姓遭殃，是什么原因？我拟平息兵患，定出长治久安计策，你看应怎么办？”赵普说：“唐以来战乱不止的原因，是地方权势太大，君弱臣强。陛下要寻治国之计，只要削夺节镇之权，将地方精兵归于中央，天下则必然安宁……”赵匡胤原来也有这种想法，与赵普不谋而合，于是想出一条既文明又能达到目的的计策。
一天，赵匡胤让有司在便殿设宴，款待石守信、王审琦、张令铎等结义兄弟。酒宴气氛十分融洽热烈，逐渐达到高潮，赵匡胤说：“我能有今天，全仰仗诸位鼎力相助，你们功德无量，我心中有数。可是，做皇帝太难了，一年多来，我没睡过一个安稳觉啊！”众人听皇上的头半截话时，都很高兴，听后半截话时，觉得有点不对劲。石守信问道：“陛下现在还忧虑什么呢？”赵匡胤说：“我与你们都是故交，话就直说了。这皇帝的宝座，谁不想坐呢？”大家一听，慌忙离席叩头。石守信说：“陛下何出此言？如今天下平定，谁还敢有二心？”
赵匡胤说：“我知道你们不会有二心。可谁能保证你们的部下没有异心呢？如果有人把皇袍穿在你们身上，你们怎么办？”这一番话，竟把石守信等人吓哭了，让皇上指示一条明路。赵匡胤说：“人生短暂，转瞬即过。诸位不如释去兵权，到地方做官，多置田地房屋，为子孙后代立下不动之产业。再多买些歌女，每日饮酒作乐，平平安安过好后半辈子，君臣之间，两相无猜，岂不更好？”众人立即明白皇上之意，连忙拜谢。大家接着喝酒，在友好的氛围中结束酒宴。酒虽进了肚，众武将心里不是滋味。
第二天，这些将帅们一起上表称病，不能入朝。赵匡胤很高兴，收回了他们的兵权，解除了后顾之忧，全部兵权集在自己手中，这就是历史上有名的“杯酒释兵权”的典故。
宋太祖又把禁卫军两司之一的侍卫司分成侍卫马军司和侍卫步军司两部分，与殿前司统称“三衙”。任命资历浅的低级军官为三衙使。这样做的最大好处，是扫除了历代禁卫军专横跋扈的风气。宋太祖还经常调动军队，将领也不固定统帅一支军队。这就造成了“兵无常帅，帅无常师”，也就是兵不识将，将不识兵的局面。
赵匡胤经过一杯酒释兵权等一系列的改革，自己手中的权力越来越大，为维护国家统一做出了重要贡献。但是这些措施也造成了宋朝军队战斗力低下，致使后来军队打仗经常失败。同时，宋太祖注重京城的防守，而忽视边防，宋军只是挨打，而不能主动出击进攻。