张巡原是唐玄宗时的真源（今河南鹿邑）县令。安禄山叛变以后，他的上司谯郡太守杨万石投降了安禄山，逼他为长史，命令他带领千余人去迎接叛军。
张巡带兵路过雍丘（今河南杞县），当时的雍丘县令也已投降了敌人，因押送囚俘外出未归。这使暗暗立下舍身报国决心的张巡终于等到了机会，他立即率军袭取了雍丘。
雍丘县令令狐潮闻讯以后，勾结叛军回来夺城。叛军一下子来了四万多人，把个小小的县城团团围住，连续攻打，形势十分危急。但张巡却不惊慌，他一面用保国保民的大义激励将士，一面沉着冷静，严密防守，竟成功地把四万余敌军拒于城外，不能攻进一步。几天过去了，城中的箭用完了。张巡就让城中军民扎了一千个草人，给草人披上黑色的衣服，用绳子拴了，夜间从城上缒下。叛军发觉了，以为是官军偷袭，一时万箭齐发，纷纷向草人射去。等到叛军发现上了当的时候，草人已被收回城上去了。这一次得箭数十万支。过了几天，张巡命令把城上的草人再缒下去。叛军上了一次当，这次便不肯再射，还嘻嘻哈哈地向城上笑骂。张巡见敌人麻痹，便动员了五百名敢死壮士，趁一个漆黑的夜晚，缒下城去，以迅猛的声威，突然杀入叛军营中。叛军毫无准备，一时间大乱，许多帐幕被烧毁，许多敌军被杀，败退出十几里才站住脚。等到叛军缓过神来的时候，张巡派出的五百名官军，早已安全返回城中。
叛军围困雍丘四个月，城中以千余守军抵抗四万敌人的攻打，不但县城巍然不动，而且还连连打了几次胜仗。最后令狐潮不得不撤围而去。后来附近的州县先后都沦入叛军之手，叛军又去攻打睢阳（今河南商丘），睢阳太守抵御不住，派人向张巡求救。张巡考虑到睢阳地势险要，又在运河中段，是江淮一带的屏障，地位比雍丘重要的多，所以便率领部下，沿运河向睢阳转移。这时他的队伍已扩大到三千人，经过宁陵（今河南宁陵）的时候，和叛军杨朝宗相遇，张巡率麾下大将雷万春、南霁云等身先士卒，攻入叛军阵中，左冲右突，拼命冲杀，他的一口大刀，所向披靡，敌军碰到的，非死即伤。将士们越战越勇，直打的叛军大败而逃，死伤一万多人，尸体扔到汴水里，竟把河水都堵住了不能流淌。张巡终于赶到睢阳，实现了跟许远的会合。
不久，朝廷下诏，拜张巡为主客郎中（礼部官员）兼河南副节度使。许远自知军事方面不及张巡，便主动把军务全部交给张巡主持，自己全力负责粮饷工作。张巡和许远的团结对敌，导致了官军上下一心，士气大振，共同坚守着这座重城。朝廷对他们的指挥很满意，又一次下诏，拜张巡为御史中丞，许远为侍御史。
后来，长安失陷了，玄宗奔向四川，太子李享在灵武即位，史书上称他为肃宗。由于睢阳像一颗钉子一样，横插在叛军地盘里，影响了叛军向唐军的行动计划。所以安禄山的儿子安庆绪于唐肃宗至德二年（757）正月，派大将尹子奇率兵十三万来攻睢阳。
睢阳守军只有六千八百人，两军对比是一比二十。但是，由于张巡善于守御，加之全军上下，同仇敌忾，所以士气极高。双方昼夜苦战，攻城的叛军遭受了重大伤亡，十六天中竟损失战将六十人，士兵二万多。
尹子奇屡战不胜，后来采取了增兵围困的策略。他先后调动了二十余万人，把睢阳城围的水泄不通，守军坚守了几个月，城中的粮食没有了，这是对睢阳的最大威胁。张巡派南霁云杀出重围，向附近的唐将贺兰进明求救。但贺兰进明等人为了保存自己的实力，又嫉妒张巡的声威，竟然观望不救。贺兰进明在一座大庙里设宴款侍南霁云，想把他留下。南霁云想起主帅张巡等的艰危处境，流着泪说：“城中将士已一月无食，我不忍独享。”说着拔出佩刀，斩下一指，然后骑马而去。座中陪饮的将士全都被感动的流下了眼泪。出门的时候，南霁云回马一箭，射向庙门的佛塔，愤愤地说：“我破贼回来，必灭贺兰进明！”
求救无望了，面对强大的敌人，怎么办？张巡和他的将士们没有动摇，他们约定，就是饿死、战死，也决不向叛军屈服。他们把一切可吃的东西都吃光了，甚至把甲胄上的皮革也煮了充饥，最后饿得都站不起来了。但将士和居民们坚守睢阳的士气丝毫不减，站不起来，他们就坐在城上向敌军投掷石块。最后，全城只剩下了四百人。叛军攻进城的时候，剩下的守军们饿的连武器都举不动了，但是还都怒目斥敌。睢阳的微弱的兵力，面对数十倍于己的敌人，在内外无援的情况下，经过十个月的苦战，终于悲壮地失守了，张巡、南霁云、雷万春、许远等三十六名将领全部遇难。
睢阳虽然最终没能守住，但它却长期地拖住了数十万叛军，并且消灭叛军数万人，为唐朝廷整个平叛战局的扭转和国家的重新统一，张巡和他的将士们，都做出了不可磨灭的贡献。
为了国家的利益，为了使自己的一生变为有用的一生，纵然是牺牲生命，也在所不辞。