赵光义剿灭北汉，表面上看是宋朝的统一步伐加快了。实际上，从长远来看，此次征伐得不偿失。要知道，当时大宋的最大敌人是契丹，非北汉。假如赵光义北伐的首要目标是攻下幽州，然后平定燕地，势必不用一兵一卒北汉也会投降。其实，赵匡胤在世时已和赵普等文臣达成了此共识。明朝政治家陈邦瞻曾言：“太宗（赵光义）一日忘其本谋，急于伐（北）汉，尽锐坚城之下，仅能克之。师已老矣，复议攻燕，所谓强弩之末，势不能穿鲁缯。一败（高梁河之役）而没世不振，再举再失利（雍熙北征），皆由太宗不知天下之大势，倒行求前，以致颠蹶也。”只是赵光义急于求成，舍本取末，先灭北汉再伐辽，为日后失败埋下一大伏笔。
公元976年6月，赵光义想借着灭北汉的余威，乘胜收复被契丹占据的燕云十六州，于是亲率三十万大军进抵易州。辽国刺史刘宇原本即为汉人，因此直接献城归宋。之后，赵光义留下一千一千多士兵协助刘宇镇守易州，随即对涿州进攻，涿州判官刘厚德也为汉人，干脆也归降大宋。
兵不血刃就获得了两个州，赵光义心里开始有点飘了，于是又兵指幽州（北京）城南，派崔彦进、宋惺、孟玄哲、刘遇四将分别率军四面攻城。但是，让赵光义没想到的是这次竟碰到一个不要命的守将——耶律古，此人具有十分顽强的抵御力，只得亲自上阵督战。
从辽太宗起，幽州一直是契丹的重镇，方圆近五十里，城墙坚厚。当时幽州的守城将领为契丹燕王韩匡嗣之子韩德让，此人“有智略，喜建功立事。”这韩德让原是汉人，其祖父韩知古本是被契丹皇室从汉地掠走的私奴，之后受到耶律阿保机赏识，官至中书令。韩德让之父韩匡嗣，由于有一手好医术，被辽景宗宠信。
而韩德让，相貌堂堂，深习边事，忠于契丹皇室，与城内官将“整器械，安兵侧，随宜备御，志不稍懈。”
尽管如此，一鼓作气的宋军日夜攻城不止，此时城中一个都指挥使李扎勒灿逃出城来投降，“城中益惧。”
得知幽州危急，辽朝萧太后急忙遣耶律沙率军驰援，名将耶律休哥闻讯，主动请缨，于是两人一同奔赴幽州，“将五院军并发。”
此时的韩德让也快支撑不住了：辽朝的建雄节度使刘延素和蓟州知州刘守恩先后归降大宋，还将契丹边境的排兵布阵说的一清二楚。
当时正值盛夏，幽州久攻不下，宋军将士的战斗力开始下降，“将士多怠”。
此时，赵光义获知辽朝援军已抵达高粱河，随即率大军拔营齐起，前去高粱河迎敌。还没有到河边，就看到数万的辽兵越河而来，双方摆开阵势，金鼓齐鸣，战旗飞舞，宋军奋起激战，辽兵伤亡惨重，不得不后退。赵光义见状，随即命令宋军加紧猛攻。
就在此时，让赵光义没有料到的是又有两队辽兵前来驰援，左翼是耶律斜轸，右翼是耶律学古。
两人均为辽国名将，有自己的用兵之道，一左一右，两翼包抄，向宋军奔杀过来。
当时天色已晚，辽军精骑手中钢刀飞舞，火炬乱飞，给困怠多日的宋军心理压力很大，没多久阵脚开始乱了。同时，幽州城内的辽朝兵马乘城举火，大声宣威，声震天地，守将韩德让等人也四开城门，列阵鸣鼓，大有里应外合，夹击宋军之势。
南北西院大王奋勇当先，辽军更加凶猛，之前败走的耶律沙重整兵马又返战场，耶律休哥身受三处伤创仍纵马驰杀。
很快，宋军支撑不住，崩溃四散。
赵光义本人的大腿上也被乱箭射中，只得乘驴车，在辅超、呼延赞等人奋力掩护下才逃过一劫，一同南奔向琢州，十分狼狈。
高梁河一役，宋军被斩首一万多，辽军“匹敌兵仗、符印、粮馈、货币不可胜计。”据宋人笔记《黙记》所记，“（宋）太宗自燕京城下军溃，北虏（辽军）追之，仅得脱。凡行在服御宝器尽为所夺，从人宫嫔尽陷没。（太宗）股上中两箭，岁岁必发。其弃天下（日后死亡）竟以箭疮发云”。
赵光义回到汴京后，由于北伐大败，平定北汉的封赏也懒得提了，将士怨言四起。
赵匡胤之子武功郡王赵德昭可能是受将士的委托，也可能是想尽一份力吧，就入宫见叔皇，请求朝廷犒赏平北汉的有功将士。
这赵光义原本就心情不好，看到侄子更不爽了。
原来征辽时，宋军曾被契丹夜间偷袭过一次，大乱之中将士找不着赵光义了，于是不少将士就想拥赵德昭为帝。
还好，赵光义及时现身，安抚受到惊扰的将士，最后还是获知了有人扶立侄子为帝，心里十分郁闷。
现在，赵德昭又来进谏，来的真不是时候，赵光义果然不高兴，说：“等你自己做了皇帝，再行封赏不迟！”
听到皇叔这样说，赵德昭十分惊慌，忙辞殿还归自己的王府。入门后，小伙子问左右侍从：“你们手头有刀吗？”侍从回报说王府中不敢带刀。赵德昭干脆进入厨房，将门闩紧，拿起菜刀就抹了脖子，自刎而死。
赵光义听说后“惊悔”，抱尸大哭，估计也是演戏。
高粱河之战，是宋辽首次主力对决战。宋军最后败北，是有很多原因的。
首先，宋军准备不足，仓促出兵。要知道，当时中原第一强敌就是契丹，没有充分的准备就轻开战端，显然是冒险的。赵光义还疏忽了一点，没有设置战略预备队，万一不利，则一发不可收拾。
其次，将士疲怠，行军围城。围攻幽州时，在耶律沙援军尚未到来之前就其击败已是十分不易，但是获胜后追击敌军十余里就用了一个下午，可见当时宋军将士早已疲惫不堪。加上辽军之后又出动精锐骑兵，宋军又没有进行有效的防范，兵败在所难免。
最后，没有占据有利地形。如在围攻幽州时，赵光义只要派兵夺取得胜口、古北口等要塞，不仅可以使幽州守军成了瓮中之鳖，还可以据险阻击辽军救兵。赵光义却将决战地选在一马平川的高梁河，极易发挥辽军骑兵的机动性和冲击力，对宋军的步兵却没有任何好处。
