宋太祖赵匡胤驾崩后，赵光义继位，是为宋太宗。
太平兴国二年，公元977年三月，被贬出朝廷后的赵普又从河阳入朝，迁太子少保留京城奉朝请。
他之所以能回朝廷，是因为他为宰相时，就和赵匡义的交情非常好，所以，赵匡义一起来当皇帝，他自然能回京了。
不过，他回京后，也没有马上得到重用，反而受到打击。
卢多逊常常诋毁赵普，使得他在朝廷任官几年，郁郁不得志。
赵普选择了忍耐。
他经过离京的几年磨难，早已没有了当初的飞扬跋扈。
一直到柴禹锡、赵镕等人告发秦王赵廷美骄奢恣肆，说他将会发生阴谋。
赵匡义召问赵普，赵普表示希望在机要部门来观察事变。他退朝后，又上书赵匡义，自陈参预知道宋太祖、昭宪皇太后临终顾托之事，言辞非常恳切。
赵匡义见了他的上书之后，大为感动，当下召赵普加以慰谕。
不久，任赵普为司徒兼侍中，封为梁国公。
原先，秦王赵廷美位次在宰相之上，到这时，因为赵普是勋旧大臣，又任宰相，赵廷美上表请求位次在赵普之下，赵匡义听从了。
赵普重掌政权之后，把卢多逊迁往南方，成功报仇，也成功地咸鱼翻身。
看来，欺负一个人，千万不要去欺负有背景的人，因为，你不知道他的背景有多深，也不知道他翻身的速度有多快
卢多逊，比起赵普来，可谓逊色多矣
太平兴国八年，公元983年，赵普外调任武胜军节度、检校太尉兼侍中。
赵匡义作诗给他饯别，赵普捧诗而哭说:"陛下赐臣诗，应当刻石，与臣朽骨一并葬在地下。"
赵匡义被他的话深深感动了。
第二天，赵匡义对宰相宋琪说:"赵普对国家有功，朕先前与他同游，现在牙齿头发都衰落了，不能用枢务政事烦扰他，选择善地来安置他，因此作诗篇来表达我的本意。赵普感激得哭泣流涕，朕也为之泪下。"
宋琪回答说:"昨天赵普到中书省，手拿御诗哭泣，对我说此生余年，无法报答皇上，希望来世能为陛下效犬马之力。'臣昨天听到赵普的话，今天又听到皇上的宣谕，君臣之间善始善终的情份，可以说是两全啊"
雍熙三年，公元986年春，赵匡义为报高梁河之辱而伐辽，亲征幽蓟，但是战事迁延，久未班师。
赵普亲自手疏谏阻赵匡义说:"我看今年春天出师征讨，将要收复关外，多次听见克敌的捷报，深感痛快。但是时间消逝，转眼又到炎夏季节，军事一天天繁忙，战争没有停息，军队疲劳而耗费钱财，实在无益。我认为陛下自从平定太原以来，闽、浙归顺，统一中国，大振英名，十年之间，就传遍天下，远方的人不归服，自古圣王置之度外，不足介意。我个人考虑奸邪谄媚的人，蒙蔽皇上的聪明睿智，以致发动师出无名的战争，陷入深不可测的境地。臣遍读典籍，很知道些以往的事，我认为汉武帝时主父偃、徐乐、严安的上书及唐朝宰相姚崇上书唐明皇十件事，都是忠言至论，可以实行。希望陛下万忙之中，有幸读一读，过失并不深远，即使后悔也来得及追回。臣以为大发骁勇善战的雄兵，动辄使用百万军队，得到的少，而失去的多。又听说战争是件危险的事，难以保证一定获胜;战争是凶器，最戒忌的是不测。关系很大，不能不三思。我又听说上古圣人，心不固执，理贵变通。前人的书上有兵久生变'的话，实在值得考虑，如果改变迟缓计划，会失去机遇。十天半月过去，时间就到了秋季，北边转入秋凉，弓弩强劲，战马肥壮，我军久困，考虑到这个时候，可能会导致错误的指挥谋划。臣刚刚蒙皇上宠爱驻守地方，哪里敢妄言阻止军队。因为臣年岁已老，剩余的时间不多，报答国家和皇帝的恩情，正是这个时候。希望迅速颁发诏令回师，不能轻视敌人。臣还有万全之策，愿献给陛下。希望陛下精心调制膳食，保养身体，提携那些贫民，使他们转为富庶。将来会看到边烽无事，大门不关，天下都归于仁德，不同风俗的地区，相继向慕归化，归顺朝廷，契丹又能单独怎么样呢陛下不为这样考虑，而相信奸邪谄媚之徒，以为契丹皇帝年少而国事繁多，所以诉诸武力，恰好迎合陛下的意思。陛下以祸为乐，求功心切，以为万全之策，臣认为万万不可。希望陛下审察虚实，追究妄谬，惩治奸臣误国之罪，停止伐燕军队的行动。不仅可以从困难中振兴国家，而且可因纳谏而成为圣人。古人曾经说过尸谏的事，老臣没有死掉，哪能为了安身保位而当面阿谀不进谏呢"
赵匡义看了赵普的手疏后，赐给他手疏的诏令说:"朕原来部署军队选择将领，只令曹彬、米信等人驻守雄、霸二地，贮积粮食带着兵器来声张军威。等一两个月山后平定后，潘美、田重进等人合兵进讨，直到幽州，然后控制险要之地，恢复原来的疆土，这是朕的志向。无奈将领们不遵照原来的谋划算计，各持己见，率领十万军队出塞远征，迅速攻取契丹的郡县，又返师来领辎重，往复弊劳，被辽人袭击，这个责任在于主将。况且朕继承百王的事业，刚刚使天下稍稍太平，考虑人民苦于边患，将以救民于水火，并非想黩武穷兵，卿应当是知道的。疆场上的事，已经作好部署，卿不必为此忧虑。卿是国家的元勋大臣，忠言苦口，三次上奏，忠心实在可嘉。"
赵匡义给赵普的诏书，充分说明了他对赵普上书的重视。
赵普立即上表谢说:"昨天因为军队久驻塞外，没有能够恢复故土，慢慢又到了炎夏季节，事势危险急迫，就上书陈述妄见，等待皇上宣谕。陛下特别体察忠诚，亲笔书写翰章，秘密宣谕皇帝圣谋。我个人认为兴师伐罪，诚信为上策，将帅如果能遵守已有的谋算，一定可以平定。正因为将帅们没有按照皇上的意志行事，导致事败。现在既然边疆已有防备，哪里还需要忧虑况且陛下登极十年，使基业兴隆，没有一件事失当，只见国家安宁。陛下应当端身拱手，保养精神，清静心志，自然可以上继九皇，下观五帝。哪里需要穷兵黩武，与契丹一较胜负呢臣历来缺乏壮志，况且人已衰老，虽然没有功劳可以夸耀，但愿意竭尽忠纯之心。"
赵匡义非常赞许他的忠诚。
雍熙四年，公元987年，赵普因忠诚而被改任山南东道节度，从梁国公改封为许国公。
赵匡义下诏亲自耕种籍田，赵普上表请求入见，言辞非常恳切。
赵匡义诚恳地对宰相说:"赵普是开国元勋，朕所尊重礼敬的人，应当听从他的请求。"