然而，文天祥毕竟不是一个久经战阵、稔熟兵机韬略之士，他不过一介文人而已；尤其自北宋时代起，朝廷的方略是重文轻武，所以整个士林尚武之风不振，文天祥也只是心有余而力不足。因此，一旦元朝江西宣慰使李恒率大军反击宋军，文天祥竟没有想到元军会来得这样快，慌忙带兵向南转移。由于元军穷追不舍，溃乱中的宋军便再次蒙受重大损失。而文天祥本人，也只是因为侥幸才得以收拾残兵到达循州，驻扎在南岭。
“至元十五年（1278年）三月，进屯丽江浦。六月，入船澳”，这时候文天祥已经感到陆地上不安全而转移到了船舶上继续指挥作战。然而，祸不单行，此时新立还不足两年的小皇帝赵昰在元军追击中受惊而死，陆秀夫等大臣只得再拥立赵昰的弟弟、年方八岁的卫王赵昺继立为帝。文天祥上表请求入朝，想要到皇帝身边去直接为大宋的血脉服务，没有被应允。八月的时候，文天祥被加封为少保、信国公。然而这虚华的荣誉却抵偿不了上天的无常，文天祥军中此时竟发生了瘟疫，兵士死者数百人，其中还包括文天祥的唯一的儿子及他这个儿子的生母（非文天祥正妻）。到了“绝后”的这一步，想必他更是已经抱定了必死的决心了吧。
十一月，文天祥率部进屯潮阳县；十二月，再次驻扎南岭。潮州海盗陈懿作恶多端，文天祥狠狠地教训了他一下，可是不想这个陈懿却勾结了元镇国大将军张弘范来偷袭文天祥部（张弘范是当时元军中有名的军事家）。元军挑选文天祥部正在五坡岭吃饭的时机，突然杀出，宋军还没来得及反抗，就被吓得投降了。文天祥想要逃走，被元千户王惟义抓获，文天祥自杀未遂，被押赴潮阳面见张弘范。文天祥余部群龙无首，又与优势元军混战，悲惨的结局可想而知。
文天祥被带到潮阳面见张弘范时，张的左右让他向张下拜，可是文天祥根本不理这个碴儿。张弘范也看重他的气节，给了文天祥以客人的待遇（而不是阶下囚），毫无疑问这是想怀柔他。张弘范又带着文天祥去了崖山（厓山，宋元双方最后决战的地方），想让他写信招降仍然在作最后抵抗的张世杰，而文天祥却说：“我自己不能保护好父母，而又教别人去背叛自己的父母，这算怎么一回事啊！”张弘范不死心，硬要缠着文天祥让他写劝降书，文天祥就把自己从前写过的一首《零丁洋诗》抄写了一遍交给了张弘范，其诗曰：
辛苦遭逢起一经，干戈寥落四周星。
山河破碎风飘絮，身世浮沉雨打萍。
惶恐滩头说惶恐，零丁洋里叹零丁。
人生自古谁无死？留取丹心照汗青。
这首诗到今天来说早已是家喻户晓，尤其那末句，更是激荡过千万人的壮烈情怀。然而这个张弘范虽然出身行伍，不过其人文化素质也不低（他还算是一位剧作家），只是他毕竟不像文天祥那样显得有点“迂”，他拿过诗来一看，微笑了一阵就搁置到了一边。
不久，崖山之战中宋军彻底败亡，元军置酒召开庆贺大会，张弘范还没忘了关照文天祥几句：“现在你们宋国已经彻底灭亡了，假如你能以忠心对待宋室的作为来对待我们大元皇上，那么朝廷仍然会让你做宰相（你就别再固执了吧）。”不想文天祥却“泫然出涕”，伤心地说道：“国家危亡我没有尽到挽救的责任，我作为人臣那是死有余辜的啊，哪里还敢想着苟活以至生出另事新主的二臣之心来呢？”
张弘范对于文天祥的言行内心是赞许的，“弘范义之，遣使护送天祥至京师”，只好把顽固的文天祥交给元世祖忽必烈亲自处理（当然也因为他是重犯）。