宋恭帝被俘后，江南的大片领土都落入元人之手，南宋王朝实际上已经宣告灭亡，但这并不代表南宋的历史就此结束。南宋遗臣不甘灭国，先后拥立了两位皇帝，坚持抗元，虽然时间不长，却给后人留下了一段英勇悲壮的故事。
德祐二年(1276)正月十七日，就在临安陷落前的那天晚上，谢太后为南宋朝廷做出了最后一条决策：将赵显的同父异母哥哥赵昰封为益王，另一个弟弟赵昺封为广王，派大臣陆秀夫等人将这兄弟二人连夜护送出城南逃，以保留赵宋之根，也好东山再起。
陆秀夫等人护卫着赵是和赵吕先逃往要州(今浙江金华)，又逃到温州。一些不甘亡国的南宋大臣听到这个消息后，纷纷赶来投奔二王，张世杰也率部从定海赶来。他们逃到福州后，总算摆脱了元军的追赶，年仅八岁的益王赵昰在宰相陈宜中、大将张世杰的拥戴下即位称帝，史称宋端宗。
流亡小朝廷虽然有了新皇帝，但兵少力单，挡不住元军的进剿，只得在福州上船，向广东沿海地区逃去。有一次在海上遭遇暴风雨，赵昰因惊吓过度得了重病，很快就死掉了。
宋端宗一死，群龙无首，眼看着小朝廷就要分崩离析，这时候陆秀夫挺身而出，联合张世杰拥立七岁的广王赵昺当了皇帝，史称宋幼主。为了避免常年在海上颠簸造成人心涣散，张世杰提议将皇帝的行宫转移到崖山，这里地势险要，如果能据险固守，或许还能躲过这场劫难。
南宋祥兴元年(1278)六月，流亡小朝廷迁到崖山(今广东新会县南)，抓紧时间在这里建造宫室和营房。追随而来的南宋民众和官兵有二十多万人，大多住在崖山周围的船中。
这时候宋帝已经失去了控制天下的能力，但他的存在至少还是宋廷的象征，对原来的南宋臣民还有心理上的影响。元江东宣慰使张弘范建议忽必烈派兵予以歼灭，忽必烈使任命张弘范为蒙古汉军都元帅，前往征讨南宋流亡小朝廷。
在此之前，还没有汉人统领蒙古军的先例，张弘范心存顾虑，就请忽必烈另派一位亲信的蒙古大臣与他同行。忽必烈没有同意张弘范的请求，却向他提起了一段往事。
那是南宋嘉熙二年(1238)，蒙军攻占安丰(今属江苏东台)，军中汉人将领张柔(张弘范的父亲)提议派兵守卫，主将察罕却坚持挥师南下，结果宋军发起反攻，安丰失守，使得张柔非常恼火。
忽必烈讲完这段往事后，对张弘范说：“当年你父亲陷入进退两难的境地，原因就在于委任不专。我不能让你产生与你父亲同样的悔恨。”说罢，忽必烈就要赏赐给他锦衣玉带，委任他一个人统领讨伐大军。
张弘范推辞道：“臣奉命远征，要锦衣玉带没有什么用。如果陛下能赐给我宝剑、盔甲，臣就可以仰仗威灵，镇服不服从命令的人，完成陛下交给的使命。”
忽必烈当即命人从武库里拿出剑甲，任他挑选，并严肃地对他说：“这柄剑就是你的副帅，谁要是胆敢抗命不道，你就用这把剑处治他！”
张弘范在潮阳时，还不知道南宋流亡朝廷躲在什么地方，只好发船下海，四处搜寻。不久，元军抓住了两名宋人，从他们口中探知宋帝君臣藏身在崖山，于是即刻引军南下，直扑崖山。
元朝军队到达崖山地区后，并没有马上进攻，因为这时候元军的水陆军加在一起才两万多人，战船300艘，而宋军尚有近20万人，战船1000艘。张弘范想等另一支部队前来增援，同时留给不适应海上作战的元军一段调整时间。
南宋祥兴二年(1279)二月六日黎明，决战开始了。开战之前，张世杰把战船全都捆绑在一起，摆成一字长蛇阵，准备与元军决一死战。小皇帝由陆秀夫保护，安置在“水城”的正中。张弘范则把元军战船分成四部分，向宋军展开围攻。元军的战船船尾较高，上边站立着一排排神箭手，专门从高往下射杀宋军战船舱面上的士兵。等宋军战船上站不住人了，元军战船就趁机靠到近前，砍断连接宋军战船的绳索，和宋军短兵相接。
在此之前，由于元军从崖山后面切断了宋军的粮草和淡水通道，宋军士兵只好吃干粮，喝雨水海水，致使兵士呕吐不堪，体力已经不支。如今元军气势汹汹地攻上来，他们勉强抵抗到下午，就再也支撑不下去了，有人开始向元军投降。
张世杰见此情景，知道大势己去，连忙下令将剩下的船砍断绳索，集中起来，准备突围。行动之前，他派出一条小船前去接小皇帝赵昺，打算让他和自己乘坐帅船逃出去。当时，放眼水面全是元军战船，陆秀夫担心来接皇帝的小船被元军俘获，那样自己就将成为千古罪人，于是断然拒绝了来人的请求。
元军渐渐地从四面围上来，陆秀夫先让自己的妻子儿女投海自尽，然后从容地整理好朝服，向赵悬案告说：“国事至此，陛下应当为国而死，而不可受辱！”说完，陆秀夫便背起这位宋朝的最后一任皇帝，一起跳入了海中。
一场惊心动魄的大战就这样结束了。除了张世杰等少数人突围外，宋军或力战身亡，或投海殉难，崖山海面上漂浮着十几万具尸首。
