1921年底列宁的健康状况开始恶化，1922年5月列宁的身体左边瘫痪，说话十分困难；1923年3月他的右手和右腿瘫痪，意识模糊，丧失说话能力，完全脱离了政治活动。1924年1月，列宁去世。
病重期间，列宁预感到自己的日子不多了。使他吃惊的是，在他生病的几个月里，斯大林在迅速扩大自己的权势。必须考虑限制斯大林的办法，他早就感到，由于他的生病，在他和托洛茨基背后正编织一张权势争斗之网。列宁曾找过托洛茨基，他准备和托洛茨基共同反击这个小集团。就在他第二次中风前几周，列宁提议让托洛茨基作自己的副手，但却被托洛茨基婉言谢绝了。托洛茨基认为自己不适合干日常事务，列宁需要顺从的助手，而斯大林、季诺维也夫或加米涅夫更为合适。
当列宁再一次同托洛茨基谈及此事时，托洛茨基坚持要从根本上改变人事安排。他认为，全部祸患与其说在于国家的官僚主义，不如说在于党的官僚主义和围绕在党委书记周围的有影响集团的相互庇护中。列宁同意托洛茨基的看法：“这么说，您不但建议向国家官僚主义开战，而且建议向中央组织局开战？？”中央组织局就是斯大林的工作机关。列宁继续说：“现在，我向您提出咱们联合起来，反对官僚主义，特别要反对组织局。”这一次，托洛茨基的态度有所变化，表示愿意接受这个建议。于是，两人决定成立一个中央委员会，想让它起到制约斯大林派别的作用。
1922年12月18日举行的中央全会专门决议责成斯大林具体负责监督医生为列宁所规定制度的执行情况。12月23日列宁被允许开始口述他的著名遗嘱，即《致代表大会的信》。
12月23日和26日，列宁口授了第一封《致代表大会的信》。列宁提议：把中央委员会的人数增加到几十名甚至一百名，“我想，这件事对于提高党中央的威信，对于改善我们机关的严肃工作，对于防止中央少数人之间的冲突构成对党的整个命运的威胁具有重要意义。”这封信是在当天直接寄给斯大林并转中央委员会的，但斯大林利用列宁失去知觉的机会没有把信公开出去，而是以自己的名义，在那次代表大会上提出扩大中央委员会的建议。中央委员由27名增至40名。斯大林巧妙地利用这次扩大中央委员的机会，把他自己的人纳入了中央委员会。而季诺维也夫却完全忽视了这一点。
列宁遗嘱的基本部分在1922年12月23日到26日的记录和1923年1月4日的重要补充，即第二封《致代表大会的信》中。这封信里有列宁对党内几位有影响的领导人的评语。
列宁认为“斯大林同志当上总书记后，将无限的权力集中到自己手中，他能否永远非常谨慎地使用这一权力，我没有把握。另一方面，托洛茨基同志，？？不仅具有卓越的才能，他大概还是现中央委员会中最能干的人，但他过分自负，过分热衷于纯行政方面的事情。现时中央两位卓越领袖的这两种品质会无意造成分裂，如果我们党不采取措施防止，那分裂是会突然来临的。”
列宁指出“季诺维也夫和加米涅夫的十月轶事当然并非偶然，但它也很少能加罪于他们个人，正如难以把非布尔什维主义加罪于托洛茨基一样。”
列宁继续说：“布哈林不仅是党的最可贵和最大的理论家，他也应当被认为是全党所喜欢的人，但他的理论观点能否算作完全马克思主义的，却是很值得怀疑的，因为在他的理论观点里有某些繁琐哲学的东西（他从来没有学过辩证法，并且我想，他从来不完全了解辩证法。”“皮达可夫——他无疑是有非凡意志和卓越才能的人，但过分热衷于行政手段和事情的行政方面？？”
在1923年1月4日，列宁又写了“对1922年12月24日信的补充”。列宁在“补充”里说：“斯大林太粗暴，这个缺点在我们中间，在我们共产党人的来往中是完全可以容忍的，但是总书记的职位上便是不能容忍的。因此我建议同志们想办法把斯大林调离这一岗位并委派另一人到这个位置上。这个人在其他方面一切都与斯大林相同，只有一点比他强，就是更耐心，更忠顺，更和蔼，更关心同志，少任性等等。这可能被看做是微不足道的小事？？但从防止分裂的角度和从我前面所说的斯大林同托洛茨基相互关系的角度来看，这不是小事，或者说是可能具有决定意义的小事。”
列宁让人将《致代表大会的信》复制5份，1份留在列宁本人处，3份交由克鲁普斯卡娅保存，1份放在列宁秘书处。为保险起见，列宁指示将这些材料保存在用火漆印封好的信封里，信封上写明，拆启这些信的人只是列宁本人，在他逝世后，只有克鲁普斯卡娅有权拆封。
2月和3月内，在列宁的敦促下，中央委员会成立了一个反官僚主义委员会。
同时，斯大林及季诺维也夫、加米涅夫已开始巩固和加强自己的势力。最初，他们害怕托洛茨基与列宁结成同盟。但到3月份，列宁的病情恶化后，他们就不再担心什么，并加紧扩大他们的权势。
1923年4月，第十二次党代表大会即将召开，原拟定由列宁作政治报告，看来是不行了。当时的一个主要问题是，由谁来作中央委员会工作报告。而谁作这次中央委员会工作报告，很自然将被全党视为列宁的接班人。
如果报告人的确定是根据他在国内的声望，那他就应该是托洛茨基。如果根据法律的表征来确定，那要么是政治局临时主席加米涅夫，要么是总书记斯大林。政治局会议讨论这个问题时，斯大林建议由托洛茨基来念这个报告。托洛茨基出人意料地拒绝了，他说：“如果我们之中有谁企图单独取代患病的列宁，党会觉得不痛快。我们这次可以不要开场的政治报告？？”
当时在这个问题上，斯大林对形势的估计是完全正确的。他知道：当时全党既不了解他，也不会接受他作为接班人，因为没有人认为他能成为全党的领导人。最后，政治局决定由季诺维也夫作政治报告，因为季诺维也夫是共产国际主席，列宁生病期间需由某人代表他，一般均由季诺维也夫出面。
1923年4月17日至25日，俄共第十二次代表大会召开。
加米涅夫发表了简短的开幕词，季诺维也夫作了中央政治报告。中央组织报告和关于民族问题的报告都是斯大林作的。
斯大林在民族问题的报告中，不顾列宁的意志，谴责所谓的“社会民族主义分子”。他在民族政策方面追求的目的是，要使党的所有机关（包括中央的和地方的）都必须无条件地服从他总书记的意愿。
在加米涅夫简短而庄重的开幕词得到热烈的掌声之后，由季诺维也夫作政治报告时，竟没有一人鼓掌，场内呈现出一片互相观望的可怕的平静。季诺维也夫立即声明，他不能代替列宁，也没有这样的奢望。
但令季诺维也夫以后处境更加被动的是，在他的工作报告和政治局的提纲中以及其他决议中，犯有对布尔什维主义的策略来说是极大的错误。两个月后，斯大林利用季诺维也夫的错误反对季氏自己。季诺维也夫说：“我们有些同志说，‘党独裁——正在这么做，却不能这么说。’为什么不说？这种羞怯态度是不对的？？为什么我们不该说出本来有而又不能掩盖的东西呢？”季氏建议在各级党组织内，在国家生活和经济生活的所有领域都实行这种“党独裁”。
第十二次党代表大会进行得并不顺利。斯大林却摆脱了困境，他的组织报告比季诺维也夫的长篇空洞的政治报告给大家的印象略好一些。他头一次鲜明地阐述了权力概念和党的机关高于一切的理论依据。同时他还第一次利用列宁扩大中央委员会的思想加强了他自己在中央的地位，并给予各个暂时的盟友以难言的打击。
1923年9月间，斯大林和季诺维也夫、加米涅夫决定给托洛茨基一次沉重打击。自国内战争以来，托洛茨基一直是红军的组织者和领导者，并担任了陆海军人民委员会和共和国革命军事委员会主席的职务。斯大林和季诺维也夫、加米涅夫计划分三步削弱托洛茨基与军队的联系。第一步是扩大革命军事委员会的组成，把一些反托洛茨基的人吸收到军事委员会中来；第二步是改组陆海军人民委员会管理机关，撤消托洛茨基的得力副手斯克良斯基的职务，由伏龙芝接替；第三步就是最终撤消托洛茨基陆海军人民委员的职务。
9月23日，斯大林和季诺维也夫、加米涅夫向中央委员会提议扩大军事委员会，新提名的委员都是托洛茨基的公开反对者，其中也包括斯大林。托洛茨基当然懂得这一措施的用意。他说，这个建议实际上是在幕后策划的，其目的就是要使他离开革命领导。但他不愿同这一阴谋进行斗争，只希望为革命事业服务。所以他建议中央委员会解除他的一切职务和头衔，允许他作为一名普通战士投身于正在成熟的德国革命中去。他希望这一建议不会被拒绝。
季诺维也夫接着发言。不知为什么他也建议解除他的一切职务，让他同托洛茨基一起作为一名战士投身于德国革命。斯大林则庄重地宣称，中央委员会无论如何也不能让这样两位“敬爱的领袖”离去。就在这时，列宁格勒的契卡（肃反委员会）头子科马罗夫以夸张的口气“代表人民”发言，他说：“我只是不懂，托洛茨基为什么如此傲慢。”托洛茨基终于忍不住，跳起来宣称：“我请求把我从这出低级喜剧的演员表中划掉。”说完，立即向出口走去。
在1923年最后几个月里，斯大林和季诺维也夫、加米涅夫把他们的主要精力都放在同托洛茨基的这场斗争上。1923年10月8日托洛茨基致中央委员会的信指责领袖们实行“独裁统治”，放弃了党的民主制，忘记了选举制原则，对批评采取不能容忍的态度。一个星期之后，一批老党员向中央委员会提出申诉。它就是被叫做《四十六人声明》的文件。申诉者指责那些同组织失去联系的领导人实行一种足以使国家灭亡的政策，因此他们建议立即召开中央委员会的扩大会议。这份同志式的坦率“声明”让斯大林及其助手们感到很不愉快。中央委员会和中央监察委员会于10月25日——27日联合召开的全体会议宣布这“四十六人”都是派别分子，并谴责他们同托洛茨基一起进行分裂活动。
1924年5月23日至31日，召开了列宁逝世后的第一次党代表大会，即第十三次代表大会。在斯大林的控制下，没有让托洛茨基及其拥护者在大会上作报告，并且，第十三次代表大会还通过了关于谴责托洛茨基的“党内小资产阶级倾向”的决议，谴责托洛茨基和《四十六人声明》的作者竟敢给党写信，批评党的中央委员会。实际上，斯大林和季诺维也夫、加米涅夫是要把第十三次代表大会变成反托洛茨基的代表大会。
党内的斗争无情地冲击着列宁那病入膏肓的身体。作为列宁病情的主要“监督者”，斯大林恰恰在党的十三次代表大会前夕，撤消了对列宁的“情报隔离”。这次大会谴责了托洛茨基和托洛茨基主义，斯大林和斯大林主义占了上风。
1924年1月19日至20日，克鲁普斯卡娅把发表在《真理报》上的俄共（布）十二次代表会议决议念给列宁听。关于当时的情况，克鲁普斯卡娅是这样写的：“星期六和星期天我们都在读决议。弗拉基米尔·伊里奇（列宁）非常认真地听着，时而提出一些问题来。”但是，“当星期六那天，弗拉基米尔·伊里奇显得焦急不安时，我告诉他，决议获一致通过。”
这就是说，1月20日列宁只是有些“焦急不安”，第二天他的健康状况便急剧恶化，到了晚上6点50分就去世了。
医生的最后诊断是：“由于过分紧张的脑力活动，脑血管急剧硬化，直接死因是脑溢血。”
列宁逝世后，托洛茨基犯了一个错误。1924年1月24日，托洛茨基正在前往苏呼米去疗养的途中，他在第比利斯收到斯大林关于列宁逝世的密码电报。托洛茨基询问列宁葬礼的日期，克里姆林宫回答说，列宁的葬礼定于星期六举行。反正托洛茨基已经赶不上葬礼了，克里姆林宫建议他“继续去疗养”。事后托洛茨基才发现，葬礼其实是在星期天举行的。显然，这是精心设计的，故意把葬礼的日期说错。斯大林利用托洛茨基未参加列宁葬礼这一点，进一步削弱了他的政治影响。在托洛茨基缺席的情况下，1924年1月21日——22日召开了紧急中央全会，推举李可夫继任列宁的苏联及俄罗斯联邦人民委员会主席职务。这是一个妥协方案，因为“斯大林和季诺维也夫、加米涅夫”在推选他们之中谁当政府首脑这一问题上未能达成协议。
1924年1月，中央全会决定成立一个调查红军内部形势的中央军事委员会；2月3日，该委员会调查报告对托洛茨基提出了尖锐的批评。
1924年3月初，中央全会撤消了托洛茨基的副手，并批准了革命军事委员会新的成员组成。由伏龙芝接替斯克良斯基的职务。托洛茨基说：“中央委员会代表团来苏呼米找我，征求我对变更军事部门人员组成的意见。实际上这纯粹是在演戏。更换军事部门人员的工作早已背着我匆匆完成了？？第一个对斯克良斯基开刀。首先，斯大林把他在察里津受挫，在南方战线失利，在里沃夫的冒险都推到了斯克良斯基的身上。”
1924年3月份，第十三次代表大会开幕之前，克鲁普斯卡娅打开列宁的小包裹，把那份“遗嘱”寄给了中央委员会。当斯大林得知“遗嘱”的内容时，用粗野的语言大骂克鲁普斯卡娅。然后他找到季诺维也夫和加米涅夫，同他们商讨对策。
1924年5月21日，召开代表大会开幕前的中央全会特别会议。加米涅夫在会上宣读了列宁的信，大家沉默不语，斯大林绷着脸，面色难看。按照事先的策划，季诺维也夫首先发言，大意是：同志们，你们都知道，伊里奇的遗愿，伊里奇的每句话，对我们来说都是法律。我们不止一次地宣誓要实现伊里奇的遗志。你们也了解，我们一定要实现这一诺言。但是有一点，我们可以高兴地确认，伊里奇的这一担心并没有应验。你们大家都是近几个月来我们共同事业的见证人。你们和我一样，满意地看到伊里奇的这一担心没有出现，我指的是我们的总书记和中央委员会分裂的危险。
列宁的遗嘱对斯大林极为不利，但是季诺维也夫和加米涅夫却天真地帮了斯大林的忙。
季诺维也夫要让参加会议的同志们相信，斯大林已认识到自己的错误，并将努力改正。但中央委员们都知道，中央委员会的分裂早已成定局，所以大家都保持沉默。于是季诺维也夫建议仍选斯大林为总书记。托洛茨基也不讲话，但以他那强有力的表情，表示出他对这场闹剧的蔑视。加米涅夫对大家说，应批准斯大林继续担任总书记。当时，斯大林一直眉头紧皱，绷着脸，两眼看着窗外，决定他命运的时刻到了。
大家都不发言，加米涅夫建议进行表决。谁赞成斯大林留任中央委员会总书记？谁反对？谁弃权？多数同意斯大林留任，只有托洛茨基集团反对，也有几个人弃权。
季诺维也夫和加米涅夫是获胜了。但他们怎么也没料到，一年半后斯大林却无情地解除了他两人的权力。季诺维也夫痛苦而无奈地责问斯大林：“你知道什么叫感恩吗？”
斯大林继续担任总书记后的全会决定，不在代表大会上宣读列宁的“遗嘱”，只把内容介绍给各代表团团长。会议的这一决议说得很含糊，各代表团团长可以简单地向代表们说一下要点，而不必逐字逐句去传达。
1925年1月，托洛茨基被剥夺了军事委员会主席职务；1926年10月，他被开除出政治局；1927年10月，他被开除出中央委员会；同年11月，还被开除出党。
在斯大林的政治生涯中，季诺维也夫和加米涅夫等人的支持不是无足轻重的。早在1921年3月，维·米·莫洛托夫在担任中央委员会书记处责任书记时表现出不能胜任。在中央委员会的一次例会上，加米涅夫建议由斯大林来领导书记处，用“总书记”的职务代替“责任书记”的职务。有人立即表示支持这一建议，于是问题便迅速解决了。
当加米涅夫、季诺维也夫和布哈林支持斯大林掌管中央委员会书记处时，他们相信，他会知恩图报，会跟着他们的指挥棒转。可是历史给他们开了个玩笑：不是斯大林跟着他们的指挥棒转，而是恰恰相反。斯大林一步一步扩大总书记的职权，加强他在中央机关和地方机关中的影响。斯大林当初正好利用了托洛茨基的过于自负和对斯大林估计不足的失算。季诺维也夫和加米涅夫又不屑于干行政事务，他们想：让科巴（斯大林）去干这个吧。他虽然是一个没有什么文化并且粗鲁的人，但却是一个有权力的人。就让科巴在总书记的位置上坐一会儿好了。显然，所有这些人，包括托洛茨基、季诺维也夫、加米涅夫和布哈林等，当年都没有把斯大林放在眼里。
斯大林很长一段时间一直以学生的身份尊敬加米涅夫，而加米涅夫始终以为，一日为师终身为父的逻辑也适合于他们之间的关系。因为他加米涅夫是公认的党的领袖之一，在领导工作的经验方面，在学识渊博和文化程度方面，斯大林无法和他相比？？他还可以利用斯大林的帮助巩固自己在政治局中的地位，而斯大林毫无疑问会执行他加米涅夫的意志。
季诺维也夫也是一样。他和托洛茨基彼此都盯着对方。因为他们两人都太自负了，都想担当思想家和领袖的角色。
但斯大林知道，要反对昨日的盟友季诺维也夫和加米涅夫，一定要先取得李可夫和布哈林的支持。关于谁来继承列宁的人民委员会主席这一职务的问题，总书记要政治局委员们相信，在俄国决不能让犹太人（指加米涅夫和季诺维也夫）来领导政府。让李可夫继任人民委员会主席，显然是斯大林和季诺维也夫、加米涅夫斗争妥协的结果。
为了对付往日的盟友，斯大林费尽心机，有时难免牵强附会。为了贬低加米涅夫这位理论家的威信，斯大林指责他在引用列宁的话时进行了歪曲：说加米涅夫没有使用“耐普的”（新经济政策的）俄国，而是错误地使用了“耐普曼的”（新经济政策时期出现的资本主义分子的）俄国这一说法。斯大林把速记员的一个明显的笔误说成是发言人加米涅夫的政治性错误。总书记说，他是在一位同志关于第十三次代表大会的报告里读到这一点的。他诘问：为什么加米涅夫“脱口说出了这个奇怪的口号呢？”总书记自己回答说：是因为“平常不关心理论问题”。
季诺维也夫和加米涅夫一直同列宁被称为党内生活的“布尔什维主义三巨头”，他们为全党奠定了组织和思想基础。全党官方机关的所有重要著作、纲领和决议都有这三个人的签字。斯大林还算不上一个了不起的人物。
1924年10月，斯大林突然向加米涅夫和季诺维也夫提议暂时停止他们之间的争论。因为他在同托洛茨基的尖锐斗争中，还需要他们的帮助。
随着托洛茨基的失利，斯大林和季诺维也夫、加米涅夫的联盟开始破裂。在1925年4月的一次政治局会议上，季诺维也夫和加米涅夫猛烈抨击斯大林“一国建设社会主义”的观点。那时，斯大林和季诺维也夫、加米涅夫都在各自准备力量，作最后决战。
当时，斯大林还没有把握能在中央委员会中取得多数，因此他不希望在中央全会上展开最后的决战，而希望推迟到代表大会上进行。他加紧地下活动，并一再找借口推迟会议日期。10月初，政治局举行会议，决定12月举行代表大会，并根据莫洛托夫的提议决定由斯大林作工作报告。这说明季诺维也夫和加米涅夫在政治局已失去多数。斯大林一方面起草报告，另一方面尽力抓好地方代表的选举。季诺维也夫等未能控制各个地方组织，他只好寄希望于莫斯科、列宁格勒和乌克兰这些地方的选举。但卡冈诺维奇已被斯大林派到乌克兰的基辅去了，并顺利地使乌克兰组织不受季诺维也夫的影响。列宁格勒组织仍站在季诺维也夫一边。季诺维也夫等人完全没有想到，最重要的莫斯科组织，在乌格拉诺夫的控制下，倒向了斯大林一边。
在第十四次代表大会上，斯大林作了工作报告之后，列宁格勒代表团要求让季诺维也夫重作，但已无能为力。代表大会批准了斯大林的工作报告。斯大林针对托洛茨基在大会上声明：“离开集体来领导党是办不到的。在伊里奇逝世后，谁要幻想这点，那是愚蠢的。”季诺维也夫是共产国际执行委员会的领导人。但是，政权却掌握在克里姆林宫的手里。斯大林令人信服地证明了这一点。在一次例行的中央全会上，季诺维也夫被指责在政治上犯了一系列罪过：他把共产国际变成了类似“温室”一类的东西。一片埋怨声被巧妙地鼓动起来，于是，季诺维也夫被开除出政治局。在这种形势下，原来支持季诺维也夫的列宁格勒代表团中包括列宁格勒委员会书记、列宁格勒州政府执行委员会主席等，不少人立即转向。
到1927年12月2日—19日党的第十五次代表大会召开时，还有加米涅夫、巴卡耶夫、叶夫多基莫夫等反对派成员在大会上发言。大会作出决议，认为“参加托洛茨基反对派和宣传其观点的行为与留在联共（布）党内是不相容的”，决定把包括加米涅夫、皮达可夫、拉狄克、拉科夫斯基、斯米尔加、拉舍维奇等75名托季联盟骨干分子开除出党，并将23名萨普罗诺夫集团分子开除出党。决议还要求各级党组织努力纯洁自己的队伍，清除“一切不可救药的托洛茨基反对派分子”。
至此，托季联盟在政治上组织上宣告失败。1928年1月，苏联国家政治保卫局下令将托洛茨基流放到中亚的阿拉木图。一年以后，即1929年1月，苏联政府又宣布将托洛茨基驱逐出国。
托洛茨基于1940年在墨西哥遇刺身亡。
“托季联盟”失败后，斯大林与其同盟者布哈林又因“新经济政策”而展开讨论，争论的焦点是建立高度集权的计划管理体制还是建立综合平衡的新经济体制，即结束还是继续新经济政策的问题。
1928年4月，联共（布）中央委员会和中央监委举行“四月联席会议”讨论粮食收购和沙赫特事件（顿巴斯煤田沙赫特矿区爆炸事件）的处理结果。争论的结果是布哈林派取得了胜利，斯大林被迫作出了让步。由于布哈林和斯大林从各自的立场上解释“四月联席会议”，联共（布）中央不得不召开“七月会议”讨论分歧，布哈林在会上失去了多数人的支持，斯大林取得主动。
同年9月30日，布哈林在《真理报》上发表题为《一个经济学家的杂记》的文章，激烈批评斯大林。结果是支持布哈林的莫斯科政府被改组。
1929年1月，联共（布）中央委员会和中央监委举行联席会议，讨论斯大林和布哈林的关系问题。斯大林抓住布哈林曾会晤加米涅夫一事大做文章，指责布哈林正在组织“一个右倾投降主义集团”；对于斯大林的指责，布哈林断然拒绝并要求辞职。为此，联共（布）中央政治局提出一个以布哈林承认错误为代价的“和平方案”。布哈林严词拒绝后起草了一份批驳斯大林的声明，认为斯大林用个人决定代替党的集体领导原则。布哈林的行为彻底激怒了斯大林，二月联席会议通过《关于党内事件》决议，认定布哈林纠集李可夫、托姆斯基等人组成“反党三人团”“进行反党”活动，不允许布哈林辞职，并要求坚决执行斯大林的思想路线。四月联席会议在“反右倾”斗争中召开，会上，布哈林被撤消所有职务并被开除出中央政治局，斯大林获得了全面的胜利。
在苏联的历史上，斯大林登上最高的权力宝座，乃至出现斯大林时代，都不是偶然的。历史证明斯大林是在需要他的时候出现在需要他的地方。不难看出，斯大林在其政治生涯中利用了一批“政治庸才”，巧妙地把握住了各种机会而取得一步一步的胜利。历史学家沃尔科戈诺认为，斯大林是苏俄历史上最复杂的人物之一。他写道：“我国历史上，没有比斯大林更矛盾的人物了。他一个人所受到的赞扬和指责都足够整整一个罗马军团的历史人物来承担。？？关于他在我国历史上的作用将会长期争论下去？？”