在一片不看好的声音中，李开复却在担任微软中国研究院首任院长的两年里取得了令人意想不到的成就。在他的努力下，微软中国研究院成为一个世界一流、亚洲最高水准的计算机科学研究机构，之后在微软中国研究院的基础上建立的微软亚洲研究院也成为除美国本土以外规模最大、成果最多的一个研究院。
由于在中国的杰出成就，2000年8月，微软将李开复召回总部，并任命他为微软全球副总裁，成为微软公司根据“新一代网络平台”的战略组建的新部门“。NET”集团的主管之一。这标志着微软在未来将以“网”为核心替代“窗”，毫无疑问，这是一个巨大的战略调整和挑战。
李开复离开了中国，但是他的心却没有离开。
2002年8月，微软在中国召开了一次教育高峰论坛，李开复特地从美国飞到北京。论坛上探讨了中国和印度发展软件人才培养的话题，李开复突然想起什么来的样子，一把抓过话筒：“我还要补充两句。我这两年在美国接触到了很多亚裔人，包括印度人和中国人。我之所以相信中国一定会强大起来，是因为大家讲的内容完全不同。很多印度人说，我们很多优秀的人都到美国来了，但我们都不愿意回去。而我所接触到的很多中国人说，我们有很多优秀的人到这里来了，但我们每时每刻都想着回去。”这番话惹得平时对受访对象质疑惯了的记者们感动不已，大家忙不迭地放下手中的笔，鼓掌，很真诚。
这不是李开复第一次透露出类似这样的想法。微软中国的公关经理尚笑莉曾经这样评价李开复：“过去，我们一直在说‘赤子之心’，可我从来没有真正体会到。但是有一次，我在他的身上突然就看到了，让我特别感动。”那一次是在清华大学的演讲，有一个学生问他为什么回到中国工作，忽然就触动了他的那种情感。他说：“我从小就一直牢记父母亲的教诲——不要忘了自己是一个炎黄子孙。我希望，当我年老体弱时，回首往事，我会很自豪，我为中国人做了一点事。我希望，当我离开这个世界之后，人们想起我，会说，李开复曾为中国人做了一点事。这样，我就会觉得没有虚度这一生。”
李开复是这样说的，也是这样做的。在刚被调回总部的时候他曾认为，自己很快就会回到中国。“接下来的一年时间，我将更多地呆在总部，把这边的工作做好。一年以后可能会回中国，因为面对互联网，中国的机会会更多。”李开复当时对记者这么说。然而，他自己也没想到，再次回到中国不是一年后，而是五年。
在这五年中，李开复一直在寻求着回到中国工作的机会。据微软中国前总裁唐骏透露，在2003年，微软大中华区开始调整之时，李开复就曾经想回到中国。当时他有一个想法，他任大中华区总裁，负责政府关系、高校关系、本地化研发，唐骏负责销售管理，但微软总部并没有实行这种模式。
五年并不是一个很短的时间，我们所知道的关于李开复的另一个五年的故事是，刚来到中国的时候，他曾经向妻子先铃许诺，至少五年不离开中国，因为按他的计划，研究院研究的东西要成为主流至少需要五年，到那时才是他能够放心离开研究院的时候。但是，当2000年6月，斯蒂夫·鲍尔默告诉他，现在总部特别需要像他这样的人的时候，他说：“当Bill，Steve，Bob，甚至Rick都告诉我，公司需要我的时候，我必须对公司负起责任。”
从理智上说，回到微软总部，担任核心项目的负责人、带领上千名技术人员完成工作是一件令人羡慕的工作；但是，如果我们了解李开复的内心想法，就可以知道，这并不是他想要的最好的工作，这使他远离了中国，远离了他“为中国做点什么事情”的愿望；如果我们再仔细研究李开复的简历，就会发现他最辉煌的时刻永远与科研有关，他所有的成就，都是建立在创新的基础上的。
早在卡内基梅隆大学任助教期间，他精深的、创造性的研究成果就为他赢得了盛誉。在这里，他开创性地运用统计学原理开发出世界上第一个“非特定人连续语音识别”系统，被《商业周刊》授予当年“最重要科学创新奖”，确立了他在语音研究领域的泰斗地位；他所开发出的“奥赛罗”人机对弈系统，也因为1988年击败了人类世界冠军而名噪一时。在苹果公司工作期间，他的“小精灵”上了美国最受欢迎的《早安美国》节目，人们惊奇于电脑原来还可以如此“能听会说”，这使他成为家喻户晓的IT明星；他主管多媒体技术研发，计算机迷们所熟悉的QuickTime系列音频产品就是他们的一项研究成果；他还担任过SGI公司的多媒体软件子公司Cosmo Software的总裁，负责多平台、互联网三维图形和多媒体软件的研发工作，这家公司所首创的OpenGL技术，直到今日还有着顽强的生命力；1998年，在几乎没有人相信的情况下，他一手建立了微软中国研究院，并将微软研究院打造成为微软海外最成功的研究院……可以说，创新精神，一直是支持他持续成功的内在因素，而现在的微软，虽然可以给他高位，给他高薪，却似乎不再能给他一个精神满足的空间。
微软曾是全世界程序员最梦想的公司。因为那里为最有才华的程序员提供了空间，让他们可以天马行空的创造，微软也因为公司成就为微软帝国。可是，当一个公司庞大到富可敌国、副总裁数量达到三位数的时候，继续创新，也就成为这个公司越来越大的奢望。目前的微软，产品是好卖的，但不是最好的；软件代码量是惊人的，但不是最合理的；微软试图打造一艘航空母舰，但却难以将所有部件组合在一起……以上种种，不胜枚举，微软失去创新精神的言论，早就甚嚣尘上。
在美国的五年，李开复的很多心思还是在中国，因为这是他的故土，他无时无刻不在思念着在中国的一切。到了2005年，他觉得不能再等待下去了：“我已经打定了主意，要在这两年回国。”因此李开复很早就开始关注有没有适合他回国的工作职位，但是，如果为了回国而找一个枯燥的职位也不是李开复的本意，在习惯用“双赢”原则思考的他看来，这个职位必须“首先要能回到中国，其次必须要符合自己追求激情的信念”。而这个信念同时也是李开复向青年灌输的价值观。
李开复寻找的机会很快就来到了，那就是Google。通过两个多月的考察，经过和CEO的面谈，和Google两位创始人的面谈，和更多Google员工的交流，通过他亲眼所见亲耳所闻，终于确信，Google是一家崇尚创新、价值观和文化都适合自己的公司，一家能够满足他“回到中国”和“做更有影响力的事情”的心愿，也能使自己价值最大化的公司。
李开复在他《做最好的自己》一书中也提到，当他“读到我自己写的许多文字‘追求你的最爱’、‘终身学习’、‘你有选择的自由’、‘做最好的自己’，让我想到的是我应该听听我心中的声音。无论这个决定带来多少困难，如果我没有追随我的心，我将终身后悔。如果我没有坚持我的原则，我怎么能建议你们这么做？”
虽然离开微软加盟Google的道路并不顺利，在国内也引爆了一场关于职业道德的大讨论。也有记者曾经问李开复，这个选择给他带来不少麻烦，他会不会后悔，李开复的回答是：“直到我死的那一天，我也要做我有激情的事情。对这个决定，无论给我带来多大的困扰和麻烦，我终身不悔。”
再一次，李开复听从他内心的声音作出重大的决定，选择了Google和中国。而他的这一选择也得到了他所希望的回报，如同一名学生在李开复的个人主页上的留言所说：“无论微软、Google、开复的纠纷最终如何解决，最后的真正赢家是中国青年，是中国。”当今天我们回过头去看，我们不难发现，李开复职业生涯中的这三次重要选择不仅遵从了他的内心，让他自己的目标越来越近，更抓住了中国青年的心，成就了李开复今天的成功，也为他“做最好的自己”给出了最好的诠释。