历史往往有一定的规律，而其中不变的一条就是，等到开国的君主把天下安定了之后，就马上开始诛杀功臣，汉高祖刘邦也是如此，但是张良却在这规律当中明哲保身，急流勇退，所以想要保全晚节还是需要高深的智慧、高度的修养的。
汉高祖刘邦统一天下之后，有一些在中途投奔关系不是特别近的人都是身败名裂，比如韩信、英布和彭越等人。而那些与刘邦关系十分密切的人也都被他关押、抓捕，让他们一辈子也都生不如死，比如樊哙、萧何等人。
汉高帝五年的五月，刘邦正在洛阳南宫宴请文武大臣，觥筹交错，兴高采烈，正喝到高兴的时候，刘邦也是喜不胜收，他还沉浸在一统天下的骄傲当中，于是就问群臣：“你们说说，寡人之所以能够得到天下，是什么原因？而项羽失去了他的大好前程，又是为什么？”
王陵因为是刘邦的同乡，而且从小就一起长大的，关系十分密切，他站起来对刘邦说：“大王，我觉得这个道理十分简单，大王您的脾气不是很好而且经常骂人，但是项羽的脾气跟大王比起来算是好的，按照道理说，应该是比大王的人缘好才对。但是大王您出手大方，而且每当有将领下攻下一个城池，您就把那个地方赏赐给他，所以人人都勇猛无比，因此才能得到天下。反观项羽却十分小气，他的将领打了胜仗，占领了城池，他不论功行赏，所以没人为他拼命效忠，自然就会失去天下。”王陵说完之后，其他的大臣也都跟着发言，但是内容都和王陵说得差不多。
听完这些，刘邦更是神采飞扬地跟他们说：“你们说得都不正确，你们只是看到了表面，没有看到根本。寡人可以告诉你们，如果说到拟计划、定策略，攻城略地，夺人先机而致胜，我比不上张良；要是说到办后勤、练军队、安定后方，爱抚民众，我比不上萧何；要是说到指挥百万大军，攻城略地，我比不上韩信。他们这些人都是旷世奇才，而寡人却能够知人善任，让每个人都发挥他们的特长，这就是我能够得到天下的原因。而项羽却只有一个范增，他还容不得这个人，使得范增被迫回乡，你们试想，他能不失败吗？”
汉高祖六年，刘邦分封有功之臣，当大家都为这名利争得你死我活的时候，张良却是淡然处之。
刘邦对满朝文武说，运筹帷幄之中，决胜千里之外，是张良的功劳，封他为齐国三万户，地点任由张良自己选择。
张良却没有接受这封赏，他对刘邦鞠了一躬，谢礼说：“臣蒙陛下的美意受宠若惊，但是臣不敢领受这封赏。想当初臣在下邳起兵，本就没有什么固定目标，然而万幸的是在留县遇到陛下，这可以说是上天的安排让微臣有机会追随陛下左右。而在微臣跟随陛下南征北战的那段时间当中，即使臣有些建议有幸被采用，也是托陛下的洪福，微臣没有任何功劳。臣只是请求陛下赐封微臣留县，留下来做个永远的纪念，这样臣就心满意足了。”可想而知，当满朝文武都在为争功而互相排挤和争斗的时候，而张良却拒绝了这个封赏，实在是淡泊名利，而且拥有大智慧。因为这样一来，张良没有任何把柄会握在别人手里，而此举也让刘邦十分欣慰和赞赏。
自从建都关中之后，张良就公开说：“我的祖父和父亲之前都是韩国的宰相，国家被灭之后，我就散尽家财，只是为了报国仇家恨，到后来，我却因为自己的三寸不烂之舌竟然能够追随着帝王的身旁，而且受封万户，位为列侯，这对于一个文弱书生来说算得上到达了人生的顶峰，所以我非常满足现在的生活，而且决定从今天开始，我会舍弃所有的尘世之间的大事小情，追随着赤松子修仙学道去了。”后来张良真的将家门关闭，说是在家中修习奥妙之术，从来不接见别人，只是独享神仙般的生活。
但是，就在高帝七年左右的时候，张良因为太子的废立问题而无奈地被卷入政治的洪流当中。
汉高祖刘邦有一个很是宠爱的妃子戚夫人，她生下了儿子赵王如意，于是刘邦就打算把原配夫人吕雉的早已经被立为太子的刘盈废掉，改立如意为太子。满朝文武都反对刘邦的这个想法，但是刘邦哪会听从他们的劝告，吕雉如热锅上的蚂蚁，急得团团转，不知道该怎么办才好。这时候忽然有人告诉吕后，让她去向留侯张良求救，因为汉高祖十分尊敬张良，而且张良的建议他大部分会很乐意接受的。吕雉听到后马上就派出自己的弟弟建成侯吕泽登门拜访张良。
但是吕泽对张良这个人并不是很了解，进了门他就直接劈头盖脸地教训张良说：“张先生您经常为陛下出谋划策，而现在陛下他要废掉太子，对于这种大事，您真的打算坐视不理吗？”
张良见他说话铿锵有力，但是话中带刺，就悠悠然地跟他说：“有这样的事情吗？这应该是个值得我们谨慎考虑的大问题，您说的也没错，之前我万幸被陛下夸赞，而且曾经也采纳过我的一些计策，但是现在天下已经太平，如果陛下想换太子，这恐怕是他们父子之间的事情吧？清官难断家务事，你让我去说，有什么用呢？”
吕泽一听张良的话就慌了，他只好哭丧着个脸恳求张良赐教妙方，但是张良仍旧不肯答应，吕泽软磨硬泡，死赖着不走，一心想让张良出个主意。张良被他缠得难以招架了，只好帮吕氏家族献上了一个妙计。
张良说曾经有四位隐士，高祖对他们都毕恭毕敬，而且之前好几次都打算请这四个人出仕，但他们都婉言拒绝了。这四个人就是商山四皓，他们分别是东园公、绮里季、夏黄公和甪里先生。这四个人年纪都很大，之前因为刘邦习惯动不动就骂人，他们难以容忍，就打算隐居起来，不再过问世事。张良让他们可以派人备下一份厚礼，带上太子的亲笔信函专门去请他们出山，如果商山四皓能够出山成为刘盈太子的宾客，那么高祖知道此事之后一定倍感惊喜，之后也会对刘盈太子刮目相看。
就这样，吕氏一族听从了，太子刘盈按照张良的办法费了一番周折，请了商山四皓出山。
就在汉高帝十一年的七月，突然传出一个消息，淮南王英布起兵谋反。此时刘邦身体有些不适，于是刘邦打算让太子刘盈代替自己领兵征讨。商山四皓听到这个消息，都觉得他们此番下山是来辅佐太子，保护刘盈的安全，如果让太子亲自领兵去征讨，十分危险。
四个人找来国舅吕泽一起商议，他们觉得，此次出征如果有幸打了胜仗还算好说，对于将来继承刘邦的位子没有什么影响，但是如果打了败仗，不仅现在这个位子难保，可能还会有大的灾难发生。因为此次派去征讨英布的将领，都是一些当年和刘邦一起打天下关系十分密切而且都能够和刘邦平起平坐的将领，假如真让太子去统领他们，那就等于让一只羊去统领一群野狼，纵然他们嘴上不说，但是心中一定是一万个不服，这样的军队失败的可能性实在是太大了。现如今戚夫人和她的儿子得到高祖的宠幸，高祖早就想要废掉太子，改立赵王如意，再加上如果此次征讨英布战败，这么好的借口都被找到了，那么太子的地位绝对岌岌可危了。
他们四人商议决定将此事尽快报告吕皇后，让吕皇后去刘邦那里哭诉，就说淮南王英布勇猛无比，善于用兵，汉朝此次派出的都是当年追随刘邦的将领，都是太子的前辈，太子不可能能指挥得了他们，而且让太子统帅，可能会遭到英布的藐视和嘲讽，如果英布长驱西进，那汉朝就岌岌可危，而如果高祖亲自带兵统领督军的话，可以振奋士气，那么，征讨英布也就手到擒来了。
听完这个计划之后，吕泽赶忙把这些话告诉给吕皇后。当刘邦听到吕雉的哭诉之后，也认为现在太子确实还没有这个能力，于是决定亲自统帅全军征讨英布。
当听到刘邦要亲自督军的时候，张良深深舒了一口气，自己的计谋果真成功了。当刘邦带兵出征的那天，满朝文武都来为刘邦送行，而张良特意独自送他到很远的地方，这样可以为安定太子的地位再施一些手段。张良对刘邦说，自己从小体弱多病，他为此次他不能亲自跟随刘邦而倍感歉疚，刘邦也安慰了他几句，让他回去调息。
于是，张良趁着刘邦临走之前，提醒刘邦忘记一件事情，因为从古至今，只要是帝王出征，都是太子守国，张良因为自己与外界很少有往来，而且刘邦此次行动又迅速，没来得及告诉刘邦，也就疏忽掉了。
当刘邦听到张良提到太子，心里很不高兴，只是勉强地问张良该如何补救。张良认为刘邦此时应当下一道手诏，让太子兼领将军，监督关中，这样一切就没问题了。刘邦满口答应下来，告诉张良，之前派叔孙通做太子太傅，但是这个人办不成什么事情，所以决定在他出征的这段日子，让张良做太子少傅。就这样，太子的地位算是保住了，由于张良的劳力，更是为他增加了一些保障。
汉高帝十二年，淮南军英布战败被杀，征讨淮南王成功，但刘邦却是带着箭伤回朝，而且伤势越来越严重，因此他改立太子的想法越来越强烈。
后来，张良再次献计，让太子刘盈在刘邦凯旋的庆功宴上带上商山四皓，这样刘邦可能会有改变。于是太子刘盈就带着商山四皓前来参加刘邦置办的酒宴。
当刘邦见到太子刘盈身后竟然跟随着四位鹤发童颜、仙风鹤骨的奇人的时候，就想认识认识，商山四皓就告诉刘邦他们的名号。刘邦听到后感到十分惊喜，但又倍感惊诧地询问他们，之前自己也是三番五次地请他们出山，但不见他们有出仕的意思，为什么现在却乐意辅佐自己的儿子呢？
商山四皓听完刘邦的疑问，就告诉他，这是因为之前刘邦总是轻视侮辱贤士，总是喜欢骂人，所以他们就归隐山林，不敢接近刘邦。但是现在太子生性淳朴，而且为人敦厚善良，更懂得礼贤下士，天下很多人都愿意在太子门下效劳，所以他们就出来投在太子门下，希望能够好好辅佐他。
刘邦总是想着要废掉太子而去改立储室，是因为他看太子刘盈特别懦弱，怕他即位之后，用不了多长时间就会把自己呕心沥血打下来的江山让别人霸占，那可就白费力气了，而现在那些开国元勋，尤其是他最信赖的张良也都一致反对自己的想法。而且，现在一直自己请都请不动的商山四皓竟然主动投到了太子门下，他这才放心。于是，刘邦从此不再说要废掉太子的话了。
太子刘盈即位六年之后，张良去世了，而随着他殉葬的竟然只是一块黄石。原来当年张良在下邳接受了黄石公的赠书之后，黄石公曾经跟他约定13年之后在济北相见。黄石公还告诉张良说在谷城山下的那块黄石就是他本人。张良到了13年之约，就去到济北的谷城山下去寻找黄石公所说的石头，结果真的让他找到了。后来张良就把它带回家供奉起来。在张良即将去世的时候，他吩咐家中的人一定要把这块黄石一起带上陪葬。
当然，这只是一个传说，但是这个传说也让更多人把“圮上赠书”的故事流传至今。