為了這件事，宋太祖心里總不大踏實。有一次，他單獨找趙普談話，問他說：“自從唐朝末年以來，換了五個朝代，沒完沒了地打仗，不知道死了多少老百姓。這到底是什么道理？”

　　趙普說：“道理很簡單。國家混亂，毛病就出在藩鎮權力太大。如果把兵權集中到朝廷，天下自然太平無事了。”

　　宋太祖連連點頭，贊賞趙普說得好。

　　后來，趙普又對宋太祖說：“禁軍大將石守信、王審琦兩人，兵權太大，還是把他們調離禁軍為好。”

　　宋太祖說：“你放心，這兩人是我的老朋友，不會反對我。”

　　趙普說：“我并不擔心他們叛變。但是據我看，這兩個人沒有統帥的才能，管不住下面的將士。有朝一日，下面的人鬧起事來，只怕他們也身不由主呀！”

　　宋太祖敲敲自己的額角說：“虧得你提醒一下。”

　　過了幾天，宋太祖在宮里舉行宴會，請石守信、王審琦等幾位老將喝酒。

　　酒過幾巡，宋太祖命令在旁侍候的太監退出。他拿起一杯酒，先請大家干了杯，說：“我要不是有你們幫助，也不會有現在這個地位。但是你們哪兒知道，做皇帝也有很大難處，還不如做個節度使自在。不瞞各位說，這一年來，我就沒有一夜睡過安穩覺。”

　　石守信等人聽了十分驚奇，連忙問這是什么緣故。宋太祖說：“這還不明白？皇帝這個位子，誰不眼紅呀？”

　　石守信等聽出話音來了。大家著了慌，跪在地上說：“陛下為什么說這樣的話？現在天下已經安定了，誰還敢對陛下三心二意？”

　　宋太祖搖搖頭說：“對你們幾位我還信不過？只怕你們的部下將士當中，有人貪圖富貴，把黃袍披在你們身上。你們想不干，能行嗎？”

　　石守信等聽到這里，感到大禍臨頭，連連磕頭，含著眼淚說：“我們都是粗人，沒想到這一點，請陛下指引一條出路。”

　　宋太祖說：“我替你們著想，你們不如把兵權交出來，到地方上去做個閑官，買點田產房屋，給子孫留點家業，快快活活度個晚年。我和你們結為親家，彼此毫無猜疑，不是更好嗎？”

　　石守信等齊聲說：“陛下給我們想得太周到啦！”

　　酒席一散，大家各自回家。第二天上朝，每人都遞上一份奏章，說自己年老多病，請求辭職。宋太祖馬上照準，收回他們的兵權，賞給他們一大筆財物，打發他們到各地去做節度使。

　　歷史上把這件事稱為“杯酒釋兵權”（“釋”就是“解除”）。

　　過了一段時期，又有一些節度使到京城來朝見。宋太祖在御花園舉行宴會。太祖說：“你們都是國家老臣，現在藩鎮的事務那么繁忙，還要你們干這種苦差，我真過意不去！”

　　有個乖巧的節度使馬上接口說：“我本來沒什么功勞，留在這個位子上也不合適，希望陛下讓我告老回鄉。”

　　也有個節度使不知趣，嘮嘮叼叼地把自己的經歷夸說了一番，說自己立過多少多少功勞。宋太祖聽了，直皺眉頭，說：

　　“這都是陳年老賬了，盡提它干什么？”

　　第二天，宋太祖把這些節度使的兵權全部解除了。

　　宋太祖收回地方將領的兵權以后，建立了新的軍事制度，從地方軍隊挑選出精兵，編成禁軍，由皇帝直接控制；各地行政長官也由朝廷委派。通過這些措施，新建立的北宋王朝開始穩定下來。