汉高帝五年五月，在洛阳娄敬提议将都城定为关中遭到了群臣的反对，高帝对于这个建议询问了张良，张良对此发表了一番高论，对娄敬的意见的表示赞同，于是高帝就赞同把关中作为都城。
张良随从高帝的车驾一道西行，然而自从这次入函谷关后，他便以身体多病为理由，自此从政坛上引退，学习道家那一套养生的方法，呼吸俯仰，屈伸手足，以此谋求血气充足，身体轻举，增进健康。同时还采取“辟谷”的方式，不吃食物而服用药物，以此养生。到达关中后，张良有一年多的时间闭门不出，也不接待宾客。因而，张良建议依娄敬之言定都关中，便成了他一生中告别政坛的最后一次献策。
至于封地，高帝在灭亡项羽后，曾使令他在齐地自己选择三万户做为食邑，张良辞谢说：“我起兵于下邳（今江苏睢宁西北），与皇上相识于留（今江苏沛县东南），这是上天把我交给陛下。陛下采用我的计策，幸而时常料中，我愿受封于留县就足够了，三万户实不敢当。”
高帝果然封张良为留侯，与萧何、曹参同时得到封赏。
张良于功成名就之后引退，在于他深信“飞鸟尽，良弓藏；狡兔死，走狗烹；敌国破，谋臣亡”这一哲理。这也是他作为一名谋士，不仅能为刘邦谋划夺取天下，也能为自己谋求安身，不愧为是一位真正的谋士。
张良隐退后，他也曾受命于高帝，与韩信一道整理各家兵书；在易立太子问题上他被吕泽所迫而献策，建议招致“商山四皓”；高帝征讨陈豨时，他曾随军前往，献计于马邑（今山西朔县）城下；高帝东征黥布时，他相送于郊外霸上，劝告高帝“无与楚人争锋”，“令太子为将军，监关中兵”，谋高而意重。但总的说来，张良在汉帝国建立后，他是从政坛上引退下来了。
据《史记，留侯世家》所载，自萧何被立为相国后，张良曾与汉高帝闲谈天下之事，涉及问题很多，因为与天下兴亡无关，《史记》未予记载，但却记录下了张良的一段自我表白：
“我家世代为韩相，待到秦军灭亡韩国，我不爱惜万金家财，破产谋求勇士为韩国报仇，致使天下震动（指博浪沙行刺未遂，秦始皇下令天下大搜捕十日）。如今又以三寸舌为帝王军师，封万户，位于列侯，这是布衣百姓所能得到的最高地位，对于我张良来说，可谓心满而意足了。甘愿从此抛弃人间的事情，想要随从赤松子（传说中的仙人）遨游去了。”
汉高帝死后，吕后为了感激张良在劝谏改立太子一事中的恩德，强迫张良放弃“辟谷”，并说道：“人生于世间，犹如白驹过隙，刹那间便成过去，何必如此自讨苦吃。”
在吕后的一片盛情和强迫之下，张良不得已又恢复食用谷物了。
8年过后，张良病死，儿子张不疑嗣留侯爵位。
据《史记》所载，当年在下邳桥上授给张良《太公兵法》的那位老人曾告诉张良：“十三年过后见到济北谷城山下的黄石，便是我的化身。”13年过后，张良随从高祖征战，路过济北，果然见到谷城山下的黄石，便将黄石取回作为圣物供奉起来，按时祭祀。死后，黄石也一同安葬。后人到墓上祭祀张良时，也同时祭祀黄石。
司马迁于《留侯世家》评论说：
“学者大多认为没有鬼神，然而却承认有怪物，像留侯所遇到的老人授给他兵书，也算是一件令人奇怪的事了。高帝曾多次处于困境，而留侯常在这种时候为他建功，难道可以说这不是天意吗？皇上称‘夫运筹帷帐之中，决胜千里外，吾不如子房。’我以为他这个人一定是身材魁梧、相貌非凡。然而看到他的画象，容貌却像位妇人美女。无怪乎孔子说：‘用相貌取人，我失误于子羽。’留侯也是这样吧。”
司马光编纂《资治通鉴》，对于张良的隐退曾有所评论，因文字并非难读，为保持原文韵昧，故将原文抄录如下：
臣光曰：“夫生之有死，譬犹夜旦之必然；自古及今，固未有超然而独存者也。以子房之明辨达理，足以知神仙之为虚诡矣；然其欲从赤松子游者，其智可知也。夫功名之际，人臣之所难处。高帝所称者，三杰而已。淮阴诛夷，萧何系狱，非以履盛满而不止耶！故子房托于神仙，遗弃人间，等功名于外物，置荣利而不顾，所谓‘明哲保身’者，子房有焉。”
在刘邦的遗嘱中，营参被列为汉王朝相国的第一接班人。除异姓诸侯外，在刘邦部下的众将领中，曹参“身被七十余创，攻城略地”，战功最多。汉帝国建立后，因为齐地是中国东西两大富饶的战略要地之一，有“西秦”、“东秦”之说，故刘邦封庶出的长子刘肥为齐王，任命曹参为齐王的相国，实际上是把确保东方安定的重任寄托在曹参的身上。曹参继任相国后，遵从刘邦、萧何的既定制度和政策，实行清静无为的黄老政治，贯彻与民休息方针，对汉初的社会安定和经济恢复做出了巨大的贡献，为后来“文景之治”的出现从路线上准备了条件。故后人有“萧规曹随”的美誉。这里，对曹参的事迹作如下的评介：
在汉初分封的异姓、同姓诸侯王国中，齐国有70余城，封地最大，人口最多，又十分富饶。曹参出任齐王相国，他鉴于天下初定、齐王年轻的这一事实，到任后便召集当地的长老、儒生，询问安定百姓的办法。齐地原有的读书儒生数以百计，每个人都有自己的看法，很不一致，曹参也无法确定采纳哪一位的建议。后来听说胶西有一位被称为盖公的长者，精通黄帝、老子的黄老学说，便派人带着贵重的礼物把他请到齐国都城。盖公到来后，向曹参献策，认为治国之道的总方针是“贵清静而民自定”。至于治国的其它政策，也都是按照这个总方针一一依此类推，向曹参作了具体的论述。曹参认为盖公的这套理论很高明，便把正堂让给盖公住。
曹参把盖公所阐述的这套黄老学说作为制定治国纲领的指导思想，因而在担任齐国相国的9年之中，齐地的百姓安居乐业，人们无不交口称赞他是位贤相。这一切，汉高帝在世时当然有所耳闻。
汉高帝死后两年，相国萧何患病不能起身，汉惠帝亲自到萧何家中探视。惠帝见相国病重，虽然明知萧何与曹参平时有些不大和睦，但高帝在临终前既然有遗嘱在先，而且事关社稷，他不得不向萧何询问道：“相国如果百年以后，谁可接替？”
“最了解臣下的，莫过于君主。”萧何并没直接回答。
“您看曹参怎样？”惠帝问。
“陛下已得到了最好的人选，我死后也没有什么可遗憾的了。”萧何叩头回答。
当曹参得知萧何逝世的消息后，他在悲痛之中立即告诉左右的人赶快整理行装，说道：“我将要到朝廷当相国去了。”
曹参并不知道汉高帝的临终遗嘱，但他的预料果然不错。几天后，朝廷果然派使者持节前来召曹参入京。临行前，曹参对接任的丞相说：
“要把齐国的狱市作为奸人寄寓的场所，狱是那些教唆犯罪、包揽诉讼的地方；市是那些投机捣把、欺骗顾客的场所。对于这两个地方要谨慎些，不要去干扰。”
“治理国蒙没有比这更重要的吗？”后接丞相困惑不解地问。
“不能这样看，狱与市这两个地方，是好人与坏人并存的场所，如今您去干扰他们，那奸人到哪里去容身啊。我因此把这两件事作为治国首先慎重对待的问题。”
曹参把实行黄老清静无为作为治国之本，在狱与市的问题上不能不持这种态度，目的是把经济犯罪和刑事犯罪限制在一定的范围之内，不去做那些激化矛盾的事。
曹参在微贱的时候，本来与萧何的关系很友好。待到二人分别为将、为相，彼此间却产生了一些嫌隙与隔阂。待到萧何临终前，他所推荐的相国接班人惟独是曹参一人；而曹参继任相国后，处理国家政务，同萧何在任时无所变更，一切遵循萧何所制定的制度和法令从事。
曹参的具体作法是，从各郡围的官吏中选择那些质朴而不善于言辞的长者，任命他们为丞相史，作自己的助手。对于那些善于文辞、苛求深究、追逐名声的人，一律将他们调出相国府。然后，自己便日夜痛饮美酒。卿大夫以下的官吏及他门下的宾客们，见曹参不处理政务，到他这里来的人都想为此而向他进言。曹参也深知这些人的来意，当客人到来后，他便十分热情地不由分说，先请他们饮用美酒。饮酒高潮低落，曹参见来客想要趁机向自己进言，再热情地劝他们饮酒，直到把客人们灌醉离去后方肯罢休，使得那前来想要劝说他的人总是得不到开口劝谏的机会。曹参对于想要劝谏他的人，便采取这种对待方法，并习以为常。
曹相国住宅的后园与官吏的宿舍为邻。在曹参的影响下，宿舍里的官吏们也日夜饮酒，大声喧哗呼叫。曹参的随从官吏讨厌这些人狂呼乱叫，但也无可奈何。随从官吏请曹参到后园中游玩，想让他听到官吏宿舍中酒醉后的呼叫声，并制止他们。谁知曹参听到后，却反而令人取酒在后园痛饮起来，也大声呼叫高歌，与官吏宿舍中的酒后呼喊声相呼应。
曹参见人犯有细小的过失，总是隐瞒遮盖，因而相国府中平安无事。
曹参的儿子曹頀在朝廷中任中大夫，经常有机会见到皇帝。汉惠帝也怪罪曹参不理朝政，因而对曹頀说：“你回家的时候，试探着私下从容而自然地问问你父亲，就说‘高帝刚刚离开群臣去世，皇上又年轻，你身为相国，整日饮酒，也不向皇帝请示，用什么表示忧虑天下呀？’但不要讲这是我告诉你说的。”
曹頀在假日回到家中，闲暇时侍奉父亲，将皇上的话变成自己的意思，向父亲进行劝谏。曹参闻听后大怒，当场抽打他二百下，并训斥说：
“赶快给我回宫侍奉皇上去，天下的事不是你所应当说的。”
曹頀回宫后，汉惠帝知道了相国府中所发生的一切。待到朝会的时候，惠帝责怪曹参说：
“为什么抽打曹頀，那是我让他劝谏你的。”
曹参脱下帽子向皇上请罪说：“请陛下考虑一下，在圣明英武上与高帝比谁强？”
“我怎敢与先帝相比？”惠帝答。
“陛下看，我的才能与萧何相比谁高明？”曹参又问。
“您似乎也比不上他。”惠帝答。
“陛下这就说对了。况且高帝与萧何平定天下，法令既已明确，如今陛下垂衣拱手，我们这一班人谨守职务，遵循原有的法制而没有改变，不也是可能的吗？”
汉惠帝终于知道曹参为什么会每日沉迷与喝酒之中，不理会朝政，对他也就不再过分勉强。于是就说道：“好。您不要再讲了。”
曹参一共担任了三年相国，在他担任相国期间一直沿用萧何的制度。后人称为任汉帝国相国，前后三年。死后，百姓为他编了一首歌谣，来歌颂他的功绩。这首歌谣的原萧规曹随。
