1984年蒋经国连任“总统”，“副总统”则由蒋经国提名的李登辉出任。其实，在蒋经国提名“副总统”之前，党内对“副总统”的人选，猜测颇多，社会各界也颇关注。当时“行政院长”孙运璇形象颇佳，声望鼎盛，外界猜测他有可能接任谢东闵，出任“副总统”。当然，也有人认为蒋经国可能提名资历较老的台籍人士林洋港，因为自严家淦出任“副总统”以来，此后的“副总统”一直是由台籍人士担任的。然而，在2月15日的十二届二中全会第四次会议上，蒋经国出人意料地提名李登辉为“副总统”候选人。对此，李登辉也甚感意外，他后来回忆说：
1984年2月15日国民党在中山楼召开二中全会，主要任务是要提名“总统”暨“副总统”人选。一般开会我都会提前三十分钟到场，那天的会议预定九点开始，我大概八点多到达中山楼，完成报到手续以后，我就在最前排的排定位子上坐下等待开会。……
就在我坐定后不久，“行政院长”孙运璇就走到我身边，低声地对我说：“登辉兄，恭喜您！‘总统’等一下就要提名您当‘副总统’。您通过是没有问题的。”他很客气地向我致贺，同时也说了几句“我也很赞成”这一类话。这表示蒋经国已经事先告知他提名的腹案，否则他怎么会来恭喜我？当时很多人都期待由孙运璇担任‘副总统’。……
孙运璇向我道贺不久后，开会的时间已经很逼近了，……侍卫长过来通知我：“‘总统’要见你。”我走上去见蒋经国，他不在办公室，而是躺在后面的床上。他说：“登辉兄，这次要提名你当‘副总统’。”我赶紧推辞说：“这怎么行？我不行的。不论在资格、能力各方面都还有些问题。”他说：“我看是没有问题，你一定会做好。”他已经把话说成这样了，我就向他致谢。
对于蒋经国之所以会选择李登辉担任副手，李登辉自己认为至少有几个原因：一是蒋经国认为国民党不本土化不行，而李登辉是台籍人士。二是李登辉是技术性官员，属于农业经济方面的专家，是真正可以做事的人。三是蒋经国选李登辉出任“副总统”，并不意味将来就让李登辉接任“总统”，因为蒋经国在戒严时期可以再连任下一届“总统”，但却不一定会让李登辉继续担任“副总统”。
李登辉所言不虚。“副总统”名位虽高，却不掌实权。而掌握实权的党政军各要职，一律为蒋经国的嫡系亲信。“行政院长”一职至关重要，蒋经国提名与蒋家渊源甚深的俞国华出任，国民党中央秘书长一职由马树礼出任，执掌军权的参谋总长和“国防部长”则分别由郝柏村、宋长志担任，情治系统则由汪敬煦出掌。与此同时，蒋经国大力提拔新生代青年，如在政务系统中的新生代有陈履安、魏镛、施启扬、吴伯雄、连战等，党务系统中的有宋楚瑜、马英九等人，财经中有钱纯、王章清、王昭明、萧万长等，在外交方面有钱复、丁懋时等，在地方党政系统中有高育仁、张建邦、许水德、苏南成等。
从蒋经国的政治班底很难看出他将培养谁作为自己的接班人，因而外界颇多猜测，甚至有言论说蒋经国有“传子”的计划。蒋经国与蒋方良夫妇一共生有四个子女，即长子蒋孝文、长女蒋孝章、次子蒋孝武、三子蒋孝勇。蒋孝文生于苏联，回国后深得蒋介石与宋美龄夫妇的喜爱。由于他是蒋家长子，一直被寄予厚望。在蒋介石的安排下，曾入陆军军官学校学习，后又赴美留学。由美返台后，蒋孝文曾先后在桃园县党部和台电任职。在台电期间，蒋孝文深得台电总经理孙运璇的关照。但后来不幸患病，严重失智。次子蒋孝武出生于1945年4月，1969年毕业于德国慕尼黑政治学院。返台后，蒋孝武先后出任“行政院退除役官兵辅导委员会”参议和国民党中央政策委员会的专门委员。1976年调任“中央广播电台”主任，1977年任台湾广播电视事业协会理事长、国民党中央委员会秘书处秘书、新闻党部常务委员。1979年，蒋经国又安排蒋孝武进入“国家安全会议”，涉足情报工作。1980年，蒋孝武又出任“中国广播公司”总经理。短短数年间，蒋孝武的职务涵盖党务、军特、文宣等重要系统。而蒋经国在迁台初期，也曾在党政军各部历练。因此，外界所讲的“传子”计划，应该是指蒋经国有意培养蒋孝武。
然而，就在蒋孝武步步升迁之际，却发生了震惊海内外的“江南命案”。“江南”即华裔美籍作家刘宜良。到美国之前，刘宜良曾就读于台湾“国防部”政治干部训练班和政工干校。1967年，刘宜良以《台湾日报》特派员身份被派驻美国。期间，他利用就近机会在美利坚大学攻读硕士、博士学位。1970年4月蒋经国访美遇刺，促使他研究蒋经国，并以蒋经国的生平作为自己的论文题目。自1972年起，刘宜良以“江南”为笔名在香港《南北极》杂志上发表系列有关蒋经国的文章，在华人圈中享有一定的名气。当时国民党高层对刘宜良的文章很不满，认为有损于“海内外侨胞对国家的向心力及支持”，从各方面动员他不要再写。1974年，他加入美国国籍，继续从事《蒋经国传》的写作。1977年，时任“国家安全局”驻美特派员的汪希苓曾与刘宜良见面，希望他停止写《蒋经国传》，但未能达成共识。
1983年7月，美国加州《论坛报》开始连载刘宜良的《蒋经国传》。由于内容记述蒋家内部与国民党内部的派系斗争，被国民党当局视为侮蔑“元首”。1984年10月15日，刘宜良被台湾情报局长汪希苓派人暗杀。“江南命案”发生后，美国联邦调查局发现台湾的情报系统参与了刺杀事件。消息传出后，舆论哗然，美国媒体大肆批评台湾当局，美国众议员甚至在公听会上呼吁停止对台的武器出售。
“江南命案”发生后，蒋经国非常震怒，并于1985年1月提出了“决不隐瞒，依法严办”的处理原则。他对郝伯村说：“刘案理不直，处理事难上加难、痛上加痛、苦上加苦，但决负责处理，以确保国家利益。”在蒋经国的指示下，成立了由“总统府”秘书长沈昌焕、“国家安全会议”秘书长汪道渊、“国防部长”宋长志、“参谋总长”郝伯村和“国家安全局长”汪敬熙组成的专案小组，专门负责处理此案。经专案小组调查发现，刘宜良不仅是台湾“国防部”情报局的情报人员，还是美国联邦调查局的线民。为了降低事件对各方的冲击，专案小组最后以普通刑事案件的性质加以处理。1985年4月，经法庭判决，杀人凶手陈启礼、吴敦等人被判处无期徒刑，而原情报局长汪希苓则以假借公务员职务上之机会共同杀人的罪名被判处无期徒刑。
“江南命案”虽然是公开审理判决，但仍遭到外界的怀疑与猜测。当时有不少人认为涉足情治系统的蒋孝武与此案有关，美国的《纽约时报》甚至公开点名蒋孝武是策划谋杀刘宜良的幕后人。这种怀疑和猜测对蒋经国产生了极大的压力，不得不令蒋孝武出面辟谣。4月初，蒋孝武在答复美国《洛杉矶时报》记者访问时表示：他“从未在‘国家安全事务机关’任何机构中担任过任何工作或职务，也不认识陈启礼，外界有关他的报道，纯系恶意捏造的谣言”。但岛内党外势力与海外舆论并不认同蒋孝武的答复，他们认定蒋孝武为谋杀事件的幕后指使人，明里暗里给蒋经国施加压力，反对他的“传子”计划。
其实，蒋经国也很清楚，岛内外反对势力的意图是借“江南命案”打击蒋孝武。1985年8月16日，蒋经国在台北接受美国《时代杂志》香港分社主任仙杜拉波顿的专访。当谈到“总统”职位是否仍由蒋家人士继任问题时，蒋经国公开表示：
我身为“总统”，保护“宪法”和维护民主法治，就是我的责任。至于将来“国家元首”一职，由蒋家人继任一节，本人从未有此考虑。
他还强调“总统”和“副总统”一直依“宪法”之有关规定，由“国民大会”选举产生，将来的“国家元首”，亦当如此。所以“总统”职位之继承，并无任何问题存在。此言一出，内外震动，政界人士普遍认为这是蒋经国主持台湾政局以来，最敏感也最明确的一次政治性宣告。
1985年12月9日，蒋经国在接见美国在台协会理事主席丁大伟时，再次重申不会选择蒋家人作为继承人。他对丁大伟说：
另外一个你及大家都注意的问题，就是所谓继承人的问题。最近，时代杂志记者问我，会不会有蒋家的人继承我？我告诉她，这种方式只有存在于专制国家，我们是实施民主“宪政国家”，一切照“宪法”，所以绝不会有蒋家的人来继承我。
12月25日，台湾当局召开“中华民国七十四年行宪纪念大会”。在此次大会上，蒋经国又就继承人问题作了讲话：
现在，有几个问题，经国想做一个明确的说明：
第一，就是“总统”继任者问题。这一类的问题，只存在于专制与独裁的国家。在我们以“宪法”为基础的“中华民国”，根本不存在的。因为我们立国的基础是以“宪法”为依据的，所以下一任“总统”，必然会依据“宪法”而产生，那就是，由贵会代表先生们代表“全国国民”来选举产生之。有人或许要问，经国的家人中有没有人会竞选下一任“总统”？我的答复是：不能也不会。
第二，我们有没有可能以实施军政府的方式来统治国家？我的答复是：不能也不会。执政党所走的是民主、自由、平等的康庄大道，决不会变更“宪法”。同时，也绝不可能有任何违背“宪法”的统治方式产生。
很显然，蒋经国的声明和谈话，一方面是为了打消社会各界的猜疑和美国的误会，另一方面也是以公开直接的方式回应“传子”言论。蒋经国的讲话，不仅激励了国民党内的民主派，也鼓舞了“党外势力”。公政会的重要领导人康宁祥表示，“总统继承”和“军事统治”始终是台湾政治的两大隐忧，而蒋经国的声明，显示了他肃清阴霾，稳定政局的决心。
1986年2月18日，蒋经国把蒋孝武调离台湾，派他到“新加坡代表处”担任副代表。蒋经国再次以实际行动向世人宣告，他不会将政权交给儿子。其实，蒋经国何尝不知道，不仅美国当局不会认同蒋经国继续搞家族统治，就是岛内的反对势力和党内的民主势力也不会答应再出现“传子”政治。对于蒋孝武的“外放”，蒋孝严后来说：
当时各种媒体均影射孝武与该案有涉，让他百口莫辩。就在各媒体把整个案子炒得沸沸扬扬之际，1986年2月18日，经国先生断然把孝武调离，要他前往“新加坡代表处”出任副代表。……
经国先生这项决定，不管是对当局或对蒋孝武个人来说，都是明智的。孝武有一万个不愿，也无可奈何。
“江南事件”对孝武是一生中最严重的打击。表面上，他欣然赴任，内心则极不乐意。他很清楚，自此不仅远离亲友，更将远离权力中心。在此之前，坊间臆测他是“接班掌权”的可能人选之一的消息，甚嚣尘上。他的外放立即将此可能破灭。
可以说，“江南命案”成为晚年蒋经国政治生涯的一个转折点。自此以后，他决心改变情治机关的目标，下令将“国防部情报局”和“国防部特殊情报局”进行改组，成立“国防部军事情报局”，只负责收集军事情报。他指示“国家安全局”只负责收集情报、分析和反情报工作，不搞秘密行动。更重要的是，他决心在即将召开的国民党第十二届三中全会中推行政治改革，加快民主宪政的步伐。