北宋灭亡以后，原来留在相州的康王赵构逃到南京（今河南商丘）。公元1127年五月，赵构在南京应天府即位，康王赵构是宋徽宗的第9个儿子，他的年号为建炎，这就是宋高宗。这个偏安的宋王朝，后来定都临安（今浙江杭州），历史上称做南宋。
宋高宗即位以后，在舆论的压力下，不得不把李纲召回朝廷，担任宰相。但是实际上他信任的却是黄潜善和汪伯彦两个亲信。李纲提出许多抗金的主张。他跟宋高宗说：“要收复东京，非用宗泽不可。”
宗泽是一位坚决抗金的将领。他自幼豪爽有大志，元佑六年（公元1091年）登进士第，历任馆陶尉、龙游令、知掖县和通判登州。北宋灭亡之前，宋钦宗曾经派他以少卿当和议使，到金京议和。宗泽跟人说：“我这次出使，不打算活着回来。如果金人肯退兵就好；要不然，我就跟他们争到底。宁肯丢脑袋，也不让国家蒙受耻辱。”
宋钦宗一听宗泽口气那么硬，怕他妨碍和谈，就撤了他和议使的职务，派他到磁州去当地方官。
金兵第二次攻打东京的时候，宗泽领兵打击金兵，一连打了十三次胜仗，形势很好。他写信给当时的康王赵构，要求他召集各路将领，会师东京；又写信给三个将领，要他们联合行动，救援京城。那些将领却不愿出兵，宗泽没办法，只好单独带兵作战。有一次，他率领的宋军遭到金军的包围，金军的兵力比宋军多十倍。宗泽对将士说：“今天进也是死，退也是死，我们一定要从死里杀出一条生路来。”将士们受到他的激励，以一当百，英勇作战，果然杀退了金军。敌军阵亡数千人，被迫后撤了十余里。仗虽然打赢了，但金军数倍于我的实力并未改变。倘若敌人再战，那可就危险了。宗泽毫不迟疑，黄昏时便带领部队迅速转移，安全撤出重围。当天夜晚，金兵集台大批铁骑向宗泽发动了突袭，但冲进他的驻地一看，方知是一座空营。自此以后，一提起宗泽，金人就害怕，再也不敢轻易同他交锋了。
宋高宗早就了解宗泽的勇敢，这次听了李纲的推荐，就派宗泽为开封府知府。这时候，金兵虽然已经撤出开封，但是开封城经过两次大战，城墙全部被破坏了。金兵经常在靠近开封的黄河北岸活动。开封城里人心惶惶，秩序很乱。
宗泽在军民中有很大的威望。他一到开封，先下了一道命令：“凡是抢劫居民财物的，一律按军法严办。”命令刚发出去时，城里仍旧发生了几起抢劫案件。宗泽杀了几个抢劫犯，秩序就渐渐安定了下来。河北人民忍受不了金兵的掠夺烧杀，纷纷组织义军，打击金军。李纲竭力主张依靠义军力量，组织新的抗金队伍。宗泽到了开封之后，积极联络义军。河北各地义军听到宗泽的威名，自愿接受他的指挥。
河东有个义军首领王善聚集了七十万人马，想袭击开封。宗泽得知这个消息，单身骑马去见王善。他流着眼泪对王善说：“现在正是国家危急的时候，如果有像您这样的几个英雄，同心协力抗战，金人还敢侵犯我们吗？”王善被他说得流下了感动的眼泪，说：“愿听宗公指挥。”其他义军像杨进、王再兴、李贵、王大郎，都有人马几万到几十万。宗泽也派人去联系，说服他们团结一致，共同抗金。
这样一来，开封城的外围防御巩固了，城里人心安定，存粮充足，物价稳定，恢复了安定的局面。但是，就在宗泽准备北上恢复中原的时刻，宋高宗和黄潜善、汪伯彦却嫌南京不安全，准备继续南逃。李纲因反对南逃，被宋高宗撤了职。宗泽十分焦急，亲自渡过黄河，约河北各路义军将领共同抗击金兵。他在开封周围，修筑了二十四座堡垒，沿着黄河设立营寨，互相连接，密集得像鱼鳞一样，叫做“连珠寨”，加上河东、河北各地义军民兵互相呼应，宋军的防御力量，越来越强了。
宗泽一再上奏章，要求高宗回到开封，主持抗金。但是奏章到了黄潜善等人手里，这批奸人竟取笑宗泽是个狂人，把他的奏章扣了下来。过了不久，宋高宗就从南京逃到扬州去了。没有多久，金兵果然又大举进攻宋王朝。金太宗派大将兀术（又叫宗弼）进攻开封，宗泽事先派部将分别驻守洛阳和郑州。兀术带兵接近开封的时候，宗泽派出几千精兵，绕到敌人后方，截断敌人退路，然后又和伏兵前后夹击，把兀术打得狼狈逃走。
在宗泽带兵与全兵冲杀时，有一个叫李景良的将领因为战败逃跑了。后来，宗泽派兵捉拿到李景良，责备他说：“打仗失败，本来可以原谅；现在你私自逃来，就是目中没有主将了。”说完，下令把李景良推出斩首。
有一位贪生怕死的将领郭振民向金军投降之后，宗翰派了一名金将跟郭振民一起到开封，劝宗泽投降。宗泽在开封府大堂接见他们，对郭振民说：“你如果在阵上战死，算得上一个忠义的鬼。现在你投降做了叛徒，居然还有什么脸来见我！”说着，喝令兵士把郭振民也斩了。
宗泽又回过头对劝降的金将威严地说：“我守住这座城，早准备跟你们拼命。你是金朝将领，没能耐在战场上打仗，却想用花言巧语来诱骗我！”金将吓得面无人色，只听得宗泽吆喝一声，几个兵士上来，把金将也拉下去杀了。
宗泽一连杀了三人，表示了抗金的坚定决心，大大激励了宋军士气。他号令严明，指挥灵活，接连多次打败金兵，威名越来越大。金军将士对宗泽又害怕，又钦佩，提到宗泽都把他称做宗爷爷。宗泽依靠河北义军，聚兵积粮，认为完全有力量收复中原，接连写了二十几道奏章，请高宗回到开封，但没有回应。
宗泽已经是快七十岁的老人了，朝廷敷衍了事，他焦灼得背上发毒疮病倒了。部下一些将领去问候他，宗泽病已经很重。他张开眼睛激动地说：“我因为国仇不能报，心里忧愤，才得了这个病。只要你们努力杀敌，我死了也没有遗憾了。”
将领们听了，个个感动得掉下热泪。大伙离开的时候，只听得宗泽念着唐朝诗人杜甫的两句诗：“出师未捷身先死，长使英雄泪满襟！”接着，又用足力气，呼喊：“过河！过河！过河！”才阖上眼睛。时为建炎二年七月。开封军民听到宗泽去世的消息，没有一个不伤心得痛哭流涕。
宗泽去世后，宋朝派杜充做东京留守。杜充是个昏庸残暴的人，一到开封，把宗泽的一切防守措施都废除了。没多久，中原地区又全都落在金军手里。