中国是联合国的创始会员国，并且是安理会的常任理事国。迁台后，蒋介石在美国的帮助下仍长期以“中华民国”的名义占据联合国大会及安理会的中国席位。尽管自1950年第5届联合国大会起，每年都有会员国提出支持中华人民共和国入会的提案，但在亲美国家的反对下，往往不被列入讨论议程。然而，到了1960年第15届联大时，支持中华人民共和国入会的会员国已越来越多。
为了阻止中华人民共和国取代台湾当局在联合国的地位，在1961年第16届联大会议上，美国提出了一项“重要问题案”，即任何有关代表权争执的议案应视为重要问题，要以到会投票的会员国三分之二的多数决定之。也就是说，中华人民共和国入会必须要获得到会投票的三分之二以上会员国的支持才能通过。此后，美国为了帮助台湾当局，曾多次提出“重要问题案”，以确保台湾当局继续占据联合国中的中国席位。
然而，在1970年第25届联大上，虽然大会以66票对52票通过了美国等提出的“重要问题案”，但大会又以赞成51票、反对49票、弃权25票，同样通过了由阿尔及利亚等国所提的“接纳中华人民共和国驱逐‘中华民国’”提案，只是由于没有达到“重要问题案”所需的三分之二多数，才使台湾当局再次过关。倘若事先没有“重要问题案”的保障，台湾当局立即将被逐出联合国。形势的发展已经非常明显，支持台湾当局的国家在大会中已成少数。而用以阻止中华人民共和国的“重要问题案”下一年度能否通过，连美国都不敢保证。
面对这种局势，蒋介石非常着急，他令“行政院”副院长蒋经国与“外交部”详加检讨，研究新对策。1970年12月22日，蒋经国与“外交部长”魏道明召集“外交次长”钱复等相关人员以及驻外“大使”刘锴、陈质平、许绍昌、薛毓麒、郑宝南举行检讨会，研究对策。会后，“外交部”又根据驻各国“大使”反馈的意见，于1971年2月提出了一份报告。报告认为除坚持使用过去的策略外，还提出了几个可能实施的新方案：（1）“两个中国”案。（美国和日本都有此拟议）（2）一个中国由两个政权代表案，安理会席位由中华人民共和国取代。（比利时曾拟议）（3）“一个中国，一个台湾”案。（4）分裂国家整批入会案。（日本外务省曾拟议）（5）以乌克兰模式入会案。（6）“纳共”及保留我席位案。（7）“排我纳共”案分段表决案。
对于上述方案，蒋介石并不认同，他坚持“对联合国代表权问题决以重要问题为主，并不涉及安理会席次问题为重点”。他认为，“两个中国案”，“此乃美国幼稚幻想”。为此，蒋介石提出了自己的对策：“（1）反对中共加入联合国；（2）不得已时，阿案分为前后二段：排我一段作为重要问题，纳中共一段作为普通问题，则安理会代表自属我政府，此为最后腹案；（3）如果安理会属于中共，则我认为非法案，决不承认，并公开声明保留我依照宪章在安理常任理事之权利，即同时声明中共不只为内乱犯，而且为侵韩的联合国之敌人与罪犯；（4）否则只有退出联合国以维护正义。”
然而，此时美国认为如坚持原来的策略，已很难保证台湾当局在联合国中的席位了，必须改变策略，计划不再提“重要问题案”，而是提“双重代表案”，即允许大陆进入联合国的同时，维持台湾在联大的席位。然而，蒋介石不赞同美国的方案，他在日记中说：
联合国代表权美国所拟提案之方式：（甲）重要问题不想再提；（乙）“双重代表案”，即“两个中国”而不涉及大陆与台湾谁属问题；（丙）安全理事会代表与中华民国代表权应作为重要问题，而以“共匪”加入联合国；（丁）如多数提案国必欲以安理会代表予“共匪”则听之，不作争辩。此乃是其最劣之态度，无异出卖我国也。
为了协调双方意见，美国总统尼克松派资深外交官墨菲专程前往台湾，与蒋介石会商“双重代表案”的可能性。1971年4月23日，墨菲飞抵台湾。蒋介石和蒋经国等人在阳明山中山楼接见了墨菲，谈话一个半小时。墨菲首先向蒋介石强调，今天的问题，不是“美国造成的，而是由于变动的世界局势和发展中的国际趋势”。由于国际情势急速变化，如仍坚持使用过去保护台湾代表权的方案，“那么今年或最迟到明年，我们在联合国就会遭遇失败”。美方一般的想法是，“以双重代表方式替代重要问题案，即以双重代表方式代表中国，而不明确规定何方为中国之惟一代表，将避免触及安理会席位，使台湾仍能维持原有的席位”。蒋介石表示，他“理解尼克松所受的压力使他非有新的做法不可”，“可是一旦联合国宪章遭到破坏，将损及世人对美国的尊敬和信心”。墨菲接着说：“美国宁可选择维持现状，但近几个月来它必须面对某些现实，包括这段时间有八个国家先后承认北京政权。”“如果美国选择忽视这些国际上的趋势，将会有巨大危险导致它与‘中华民国’在中国问题上的失败。如果‘中华民国’坚持今年秋天在联合国内仍用旧的模式，尼克松愿意奉陪。”蒋介石回答道：如果美国认为绝对有必要采取新步骤的话，新步骤必须重申“重要问题案”的实质，而且“不能触及‘中华民国’在安理会中的席位”。墨菲再三向蒋介石保证，新方案中不会提及‘中华民国’在安理会的席位，“美国一定争取绝大多数国家来支持美国所提出的新方案，方案内容中美国没有企图要使北京政权获得安理会席位”。他还说：“以我猜想，北京政权将会拒绝接受邀请，不会接受这种新方案”，那样的话，台湾在联合国的地位不会受到损害。蒋介石也表示：“我相信假如中共没有获得安理会的席位，他们是不会进入的；然而，如果安理会席位让给他们，那就难保北京方面会有什么反应。”蒋介石最后向墨菲表示，他对尼克松总统有意访大陆感到意外，“如果美国不中止对大陆的让步，北京也许最终不仅得以联合国大会甚至是安全理事会。如果哪天‘中华民国’真的离开了联合国，那么始作俑者将非中共政权，而是美国”。
回国后，墨菲向尼克松提交书面报告，并提出了自己的看法。墨菲认为：“蒋介石老了，他似乎相信只要美国倾力奋战，台北在联合国的席位即可保住，北京就可以被摈弃于外。他认为联合国代表权是他与中共之间家务争吵性质的议题。而蒋介石的儿子蒋经国和其他人对联合国的态度比较务实，但最高决策权在蒋介石手中。”尼克松对于蒋介石的态度并不感到意外，但他说：“鉴于国际形势和北京的态度，维护台湾在安理会中的席次是不可能的。”6月初，尼克松要“驻华大使”马康卫转告台北，“美国绝对支持‘中华民国’在联合国，不希望有任何提案将之逐除，我们当然能支持他们继续留在安理会，然而这是很难成功的任务”。
很显然，尼克松与蒋介石在面对“中国代表权”问题上的政策和底线是不一样的。尼克松的政策是希望在国际形势变化下，采取变通的方式使台湾能够继续留在联合国。而蒋介石虽然表面上表示可以接受“双重代表案”，但坚持不肯让出安理会席位，实质上是想坚持安理会席次，迫使北京放弃入会。他对蒋经国说：“余以为对美国外交不能不有内方外圆之作为，心中应有坚定决策，而外形则未到实行时间，应随环境而予相机应变也。”他还在日记中说：“近日美政府对外交政策，尼氏似已决定要我退出联合国，并以中共来替代我安理会席次，以为其本人明年竞选之资本。此乃为不可想象之卑鄙恶劣之事，但吾心泰然无惧。惟照预定目标进行，至于结果，惟听之于上帝之命是从。”“对联合国进退问题应慎重处理，不能自暴自弃，如至不得已时，决自动退出。”可见，一旦丧失安理会席位，蒋介石就决定退出联合国。
5月初，蒋介石任命沈剑虹为“驻美大使”。蒋介石父子对他寄予厚望，希望其能与美方在“中国代表权”问题上作更多的交涉。然而，沈剑虹抵达美国后，尼克松政府迟迟不与其谈论“中国代表权”问题。他在7月3日致电蒋经国说：
自5月18日呈递“国书”之后，随即正式展开工作。尼总统似无约职晤谈之意。同时，职托友人约见基辛格，但均以事冗为由，一再拖延。其一再延期原因，想系美对中国代表权问题，尚未作最后决策之故。
鉴于近来美姑息媚共气氛日益浓厚，舆论界推波助澜，对我更为不利。例如6月4日，有研究中国问题学人费正清等110人，在纽约时报登刊联名启事，主张在联合国各机关予北京以唯一中国政府之合法席次，反对美国在未获得国共协议前强行运用“双重代表权”方案之努力等。尼克生政府为少数政党，参、众两院之趋势如此。尼克生在各方面压力下，困扰自多。故其对中国代表权之政策，迟迟未能决定。
蒋经国复电沈剑虹说：“局势艰难，自在意中，惟当尽心竭力，妥为肆应，信兄必能善其所事。续情盼随时见示。”
7月15日，尼克松宣布接受访华邀请。19日，美国国务卿罗杰斯接见沈剑虹，表示情势已有变化，除非让中华人民共和国得到安理会席位，否则“双重代表案”绝难通过。美国同意再次提出“重要问题案”但很可能无法获得半数支持。如台北愿意放弃安理会席次而只为联大之会员国，则尚有办法可想，美国愿意尽力并即共同商讨进行步骤。
对于美国态度的转变，台湾当局非常震惊。21日，蒋介石召集严家淦、蒋经国以及相关外交人员商讨应对之策。并致电沈剑虹，要其“答复罗杰斯国务卿，表明我政府严拒美方最新之建议”。
23日，蒋经国会见了马康卫，就“中国代表权”问题进行了磋商。马康卫向蒋经国解释了美国的决策：“阿尔巴尼亚提案作为重要问题案，重要问题修正案，以及双方代表权而不涉及安全理事会等均无法获胜，仅有维持联合国大会会员籍，放弃安全理事会席次可经努力而获通过，吾人深知贵国作此决定非常痛苦，但若首肯，可不必公开声明，美国可代为争取所要之多数票。”马康卫还以个人身份表示：“如果‘中华民国’不退出联合国，中共可能因其先前所揭示之条件，而拒绝进入联合国，则一切均照旧，当无问题。”蒋经国对马康卫说：“要放弃安理会席位等于自我否定，是否真只能依照罗杰斯的意见，没有任何可转圜之余地？如不提‘重要问题案’，美国将提何种方案？”马康卫表示，时间紧迫，需要双方尽快取得共识。如果美国不提“重要问题案”，将提“双重代表案”，并包括“中华民国”放弃安理会席位。蒋经国当即表示无法接受这种方案。会谈未能达成共识。
8月2日，美国国务卿罗杰斯发表了对“中国代表权”问题的声明：
美国将今秋在联合国大会中支持给予中华人民共和国席次的行动。同时美国亦将反对任何排斥“中华民国”，或用不同的方式剥夺它在联合国的行动。
安理会的中国席次问题，是许多国家希望表示意见的问题。总之，安理会当在宪章规定下采取决定。而美国的意见是，我们准备听由联合国决定来解决这一问题。
我们相信所采取的决定，是充分符合尼克松总统在世界和平的利益下，与中华人民共和国谋求关系正常化的愿望，并符合我们确认“中华民国”继续保持它在联合国的代表权。
对于美国公开发表的声明，蒋介石心急如焚。他指示将前往美国访问的周书楷说，如罗杰斯对其以理事会席次交“匪共”之提案迫我同意，“则我应予摊牌，坚决反对”。他在日记中说：“其政府保证我在安理会席次之文件，而今不但不予保证，反要我让给我国叛逆‘匪共’之同意。此种不守信义之行动，吾人坚决反对，乃为其迫我退出联合国之所为，美国应负其一切责任。”8月6日，“外交部”召集驻亚太地区的“使节”，商讨代表权案。当日午后，蒋介石夫妇在阳明山举行茶会款待各“使节”，听取大家对代表权的意见，勉励大家努力奋斗捍卫“国家”权益。在茶会即将结束时，宋美龄突然发言，表示“外交事务”，立场不能过于软弱，“国有国格，人有人格”。
基于美国的态度，蒋经国认为要尽量争取留在联合国，因为国际形势变化无常，特别是近一年多来，中苏关系发生了重大变化，而且还有可能发生剧烈变化，应该充分利用这种形势和机会留在联合国，如果确实不能留在联合国则要在“纳共逐我案”通过前主动退出。9月11日上午，蒋经国召见“外交部”次长钱复，对于代表权案作了三点指示：（一）应探明美方是否有助我诚意；（二）对于苏俄动向要密切注意；（三）我方的立场是，如美方提案通过，中共因我在联合国而拒绝前来，我应坚守阵地；但倘阿尔巴尼亚提案有通过迹象时，应先主动退会。
9月16日，“外交部长”周书楷与刘锴、沈剑虹、钱复等人与美国国务卿罗杰斯举行会谈。罗杰斯重申：美国目标在于维护“中华民国”在联合国之席次，但目前情势显示，如美国提案不包括安理会席位让与“中华人民共和国”的话，则可能很难通过。当天，尼克松在记者招待会上，就“中国代表权”回答记者提问时表示：
我们的政策是很明白的，我们允许且将投票让中华人民共和国进入联合国，自然，这表示将给他们在安理会的席位。我们的目标，反对驱除“中华民国”出联合国，我们将尽一切努力，以达成此目标。
尼克松的讲话非常清楚地表明了美国政府的态度，台湾当局立即发表声明表示强烈反对。蒋介石更是深受刺激，再次决定退出联合国。他在日记中说：
今日尼克生宣布其“中华民国”在联合国安理会席次让给“匪共”，最后一句虚拟说美国设法“中华民国”保持在联合国一个席次。尼丑之言对我心头，乃为最重大的打击。
退出联合国问题，经两月来之考虑。今日形势“共匪”闯入联合国与侵占我安全理事会席次，罪行已定，尤其美尼之毒计无法忍受，故决心以“汉贼不两立”与毋为瓦全之精神实行退出。
在蒋介石的指示下，蒋经国与“总统府”秘书长黄少谷等人会商办法，并致电周书楷等人表示：“尼克松宣布以安理会常务理事席位予‘匪’，而又对于保我部分之措辞则消极无力。我方除不惜依预定步骤继续坚忍苦斗外，一面必须切实提高警觉，美方‘双重代表案’通过无望，而‘阿案’通过确成定局时，断然主动退会，以免完全陷于受辱地位。退会时须发表正大声明，此声明之政治性重于外交性。”
联合国第26届大会在10月25日的主要议程就是对“中国代表权案”进行表决。阿尔巴尼亚代表、台湾代表和美国代表都先后发言。阿尔巴尼亚代表要求先表决“阿案”，美代表也要求先表决“重要问题案”。当晚20时，大会主席裁定先就美国建议付诸表决，结果61比53，15票弃权，获得通过。因此，大会于21时48分，先表决“重要问题案”，会场极为紧张，结果55票赞成、59票反对、15票弃权。美国精心安排的“重要问题案”遭到否决。这一结果，出乎支持台湾当局的美国等代表的意料，而大会席上支持中华人民共和国的代表在会场中跳起热舞，高声欢呼，庆祝胜利。
美国代表布什立即要求发言，建议将“阿案”的执行部分最后一段，即将“中华民国”逐出联合国的内容予以删除，经主席裁示表决，但仍遭大会否决。至晚上23时，台湾当局代表眼见所有可以抵制“阿案”的方法均已用尽，不得已要求发言。于是，周书楷在发言中朗读了退出联合国的声明稿，并率领代表团退出大会会场。之后，大会继续对“阿案”进行表决，结果是76比35，17票弃权，获得通过，成为第26届大会2758号决议案：“恢复中华人民共和国在联合国的合法权利”，“承认中华人民共和国政府的代表是中国在联合国组织的唯一合法代表，中华人民共和国是安全理事会五个常任理事国之一”，“并立即把蒋介石的代表从它在联合国组织及其所属一切机构中非法占据的席位上排除”。
消息传到台湾，全岛震惊。蒋介石于10月26日发表了“退出联合国告全国同胞书”，号召大家“精诚团结，协力同心，祸福相倚，甘苦与共；在风平浪静时，不松懈，不苟安，不骄惰；在暴风雨来袭时，不畏怯，不失望，不自欺”。他在日记中说：“今日我正式宣布退出联合国，此乃尼丑谋害我，但不足致我死命耳。”
10月30日，当周书楷率领代表团飞抵台北时，蒋经国、黄少谷等人亲自到机场迎接。11月5日，蒋经国会同“外交部”相关主管商讨今后的“外交”政策。蒋经国认为，退出联合国之后，台湾在国际的处境将更不可乐观，今后必须设法加强对美国的关系，对于国会议员要多做联系，同时要调整“外交”机构的人事。然而，蒋经国还没来得及加强与美国的关系，尼克松却已开始了中国大陆的访问之旅。