1977年，華國鋒同志在召開政治局會議的時候，提議讓鄧公重新出山，替自己分擔一部分政務。政治局的大部分同志對此表示支持，畢竟鄧公確實能力出眾，很適合擔當大任，現在國家又正是用人之際，於情於理他都應當復出。但也有幾位同志不同意此項提議，要求另擇他人挑大樑，比如陳永貴。
陳永貴之所以這麼幹，倒不是因為他與鄧公有什麼私人恩怨，主要原因還是兩人“政見不合”，陳是通過搞農業集體化進入黨中央的，他本人自然對公社和大團結抱有好感，希望該政策能永遠執行下去。但鄧公卻一直想要改革，搞“大包乾”，以解放被束縛的生產力，提振國家經濟，找尋農業發展的“新賽道”。
除此之外，陳永貴是堅決支持“兩個凡是”的。而鄧公則推崇實事求是，具體問題具體分析。可以說，兩人不論是從建設理念上，還是對未來的展望上都存在比較大分歧，因此難免會有一些摩擦。1977年下旬，鄧公受邀參加中央工作會議，看見陳永貴後，主動上前與他握手。鄧公剛想寒暄兩句，陳卻搶先說話，希望鄧公按照毛主席的指示行政、辦事，不要再節外生枝。鄧公沒有正面回答他，而是輕描淡寫的說了一句“以後還請陳同志多指教”。
但陳卻還是揪著路線問題不放，大談毛主席的理論。鄧公問他，毛主席理論最核心的一點是什麼，他一時語塞，支支吾吾根本說不出來。鄧公說是“實事求是”，主席的理論是要具體實踐，不是喊兩句口號就能推行下去，眼高手低，一味的空談可是要誤國的！陳永貴點點頭，嘴上說自己明白，但實際上他還是不理解鄧公，鄧公的話他是一句都沒聽進去，腦子裡還是充斥著陳舊思想。
他曾多次私下找到華國鋒，請求華不要“解放”鄧公，否則國家就要變天了。華國鋒沒有和他多說什麼，淡然的回應了一句“知道了”，便徑直走開了，留下他一人站在原地尷尬不已。1980年，鄧公出席國務院常務會議，中場休息的時候，陳永貴走到休息室，當著鄧公的面問還要不要繼續堅持毛主席的理論，他直言最近改革的速度實在太快了，他有些接受不了。
鄧公沒有回應他的問題，而是建議他先好好自我反省一下，以一個共產黨人的眼光審視一下自身，誠意正心。陳驚愕了一會兒，又開始提動盪時候的往事。鄧公見狀，嘆了一口氣，直接起身離開了。時間來到1980年，山西不斷有群眾向中央寫檢舉信，舉報陳永貴在行政上有錯誤，政治局對此高度重視，立即開會商討解決辦法。當年下旬，經由全國人大批准，他被解除行政職務，提前退休療養。1983年，閒不住的他主動申請到京郊外的一處農場勞動，繼續搞集體化。
他的子女們都是老實巴交的普通人，沒有享受過任何特殊待遇，而他也從來沒有想過要庇護後代，有能力就當工人或者軍人，為國家奉獻青春，沒能力就回家種地，安穩過日子。晚年的他患上了慢性病，被迫離開工作單位，轉往醫院療養，他時常坐在病床邊喃喃自語，說自己沒有給毛主席丟人，自己將最好的年華都獻給了偉大的革命事業。
1986年，他走到了人生的盡頭，臨終前，他他對家人說自己做夢夢到了毛主席，還說鄧公是個好人，沒有為難他。陳永貴死後，黨中央就如何安葬他專門開會討論了一番，有人認為，他是犯過錯誤的人，理應一切從簡，不宜大操大辦。
可鄧公覺得，就長遠來看，他在人民政權發展歷史上是有突出貢獻的，這一點是得到過毛主席肯定的，因此應該按照較高的規格為他舉辦葬禮，以表達對他的尊重。他的遺體最終在北京火化，骨灰被運回老家下葬，也算是落葉歸根了。
客觀來說，陳永貴是功績的，他在那個莽荒的年代，推動了農業發展，增加了糧食產量，解決了億萬人民的吃飯問題。但同時，他也確實犯過錯誤，在處理一些問題的時候，過於機械，違反了公平、公正原則。動盪結束後，他還沉浸在過去，遲遲不願面對未來、展望未來，逐漸落伍於時代，他最終退出黨中央是大勢所趨，黨組織需要新鮮的血液維持活力和朝氣，這樣更利於國家振興！
