顧問又是一種職務，而且它的級別不低于同級黨委成員，讓老同志把自己的椅子移到這種地方，工作比較好做。然而，顧問的頭銜不單是起安慰作用，還有“傳、幫、帶”的責任。鄧小平的這一層謀略用意很深。因為當時的中國領導班子不僅存在老化問題，還存在斷層問題。“文革”影響了一代人，在這種情況下，老同志一下子將工作丟開不管也不行，必須在離開前選好接班人，并把他們放到領導崗位上加以扶植。接班人在一線頂事，老同志則利用他們的經驗在二線上做參謀，必要時指導指導，發現選的人不適當就換人。到時年輕人成熟了，老同志放心了，顧問制自動取消，終身制到此為止，過渡到常規退休制，新老交替順利完成。
但當時有部分老干部對此不甚理解，認為老干部剛恢復工作又要離休，屁股還沒有坐熱，中央對老干部不公正。還有一些人甚至認為，三四十歲的人是“文革”經歷者，他們沒學到什么東西，提拔干部沒他們的份兒。看來，鄧小平還得做一些勸說工作。
真正考慮成熟并下定決心設立顧問委員會是在黨的十二大召開前夕。1982年2月18日，鄧小平在會見柬埔寨的諾羅敦?西哈努克親王和夫人時說，干部老化問題已到了非解決不可的地步了。7月4日，鄧小平在軍委座談會上談到“老干部在上面，中青年干部上不來”的問題時轉述了聶榮臻的一句話：聶榮臻提出，步子要穩妥。我贊成。他有一個意見，就是要結合，老的一下丟手不行，老的要結合中青。他還說，干部年輕化，臺階可以上快一點，這個問題解決不了，我們這些人交不了賬。如果再拖5年，怎么辦？
9月6日，在中國共產黨第十二次全國代表大會上，通過了新的《中國共產黨章程》，在新黨章的第三章第22條里明確了中顧委的組成原則和職能作用：黨的中央顧問委員會是中央委員會政治上的助手和參謀。中共十二大上，鄧小平出任過渡形式的中央顧問委員會主任，他意在為退休做鋪墊。會上，鄧小平就中顧委的性質和任務作了重要講話。他說：中央顧問委員會是個新東西，是根據中國共產黨的實際情況成立的，是解決我們這個老黨、老人實現新舊交替的一種組織形式。目的是使中央委員會年輕化，同時讓老同志退出一線后繼續發揮一定的作用，顧問委員會就是這樣一個組織。可以設想，我們再經過10年，最多不要超過15年，取消這個顧問委員會。
1987年黨的十三大召開前，鄧小平、陳云、李先念等人共同約定“一齊退下來，而且是一退到底。即退出中央委員會，不再擔任任何職務。彭真、鄧穎超、徐向前、聶榮臻也要求‘全退’”。對于鄧小平、陳云、李先念“全退”的要求，尤其是對鄧小平“全退”的要求，中央許多人表示不能接受，特別是老同志。后來，經過中央政治局反復討論，并征求多方意見，決定鄧小平、陳云、李先念3人“半退”，即退出黨的中央委員會，但仍擔任一定職務——鄧小平擔任中央軍委主席，陳云擔任中顧委主任，李先念擔任全國政協主席；彭真、鄧穎超、徐向前、聶榮臻“全退”，即退出黨的中央委員會，不再擔任任何職務。在黨的第十三次全國代表大會上，在三老“半退”、四老“全退”的帶動下，中央和各省、市、自治區又有一批老干部退出第一線的領導崗位，增選為中顧委委員和各省、市、自治區的顧問委員會委員，一批年輕干部走上了一線領導崗位。
1989年6月23日至24日，中共十三屆四中全會在京召開。全會選舉江澤民為中央委員會總書記，增選了中央政治局常委，這標志著以江澤民為核心的第三代中央領導集體的建立。
9月4日，一個極為平常的日子。幾輛小轎車駛過喧鬧的大街，前后有序地駛進景山后街一個僻靜的胡同，在兩扇鐵門前停了下來。須臾間，鐵門悄然無聲地被打開，等幾輛小車輕輕地開進去后，大門又輕輕地關上了。院子里是一片生機盎然的景象：幾棵石榴、核桃、柿子、海棠樹和葡萄架上已經長出了果實。三棵雪松已經長得遮天蔽日。幾棵白皮松英姿華美，伸向藍天。特別惹人注目的是兩棵油松，長得淳樸、蒼健。這就是鄧小平的住處。