1952年5月1日，在青海“五一”慶祝大會上，應邀講話的廖漢生突發膽結石。廖漢生的膽結石發作過幾次了，疼得非常厲害，但由于忙于公務，一直沒有接受長期的治療。于是當手頭的部隊整編工作完成，廖漢生攜妻子在7月到北京治病。

廖漢生下火車到軍委招待所只住了一晚，就被妻子的五哥——時任中辦廳主任的楊尚昆接到中南海西樓住下。在北京醫院檢查一番后，醫生建議他休養一段時間，進行保守治療。

于是廖漢生又被中辦廳，安排住進北京城外，風景秀美的頤和園夕佳樓。但沒住多久，廖漢生主動要求搬離，住進北京飯店。因為頤和園離城里太遠，看病什么的不是很方便。

8月1日到了，為慶祝建軍25周年，第一屆全軍體育運動大會在北京先農壇體育場隆重舉行。毛主席、周總理、朱德等中央領導出席運動會開幕式。廖漢生剛好撞上，也被邀請參加開幕式。

在運動會的主席臺上，廖漢生見到了闊別兩年的老首長彭德懷。廖漢生與彭德懷對大西北都有著極為深厚的感情，因為這是他們親手解放的土地。

大西北解放后，身兼西北軍區司令、西北局第一書記、西北軍政委員會主席等數項西北要職的彭德懷，就信心滿滿、斗志昂揚地提出：“我們今后總的任務是進行民主改革、發展生產和提高文化，為建設新西北而努力。”

西北大，但貧瘠，這是眾所周知的事，但彭德懷在西北的時候，經常對廖漢生等西北軍政干部說：“南京、上海確實比我們西北好得多，那里再好也是那里的人民長期建設起來的。只要我們西北人民努力奮斗，用我們自己的雙手，同樣能把大西北建設成好西北。”

1950年下半年，正忙著帶領西北人民大干一場，執行西北三年經濟恢復計劃的彭德懷，突然被中央一通緊急密令調走，從此再沒回來。廖漢生等人后來才知道，彭德懷再次臨危受命，率領志愿軍入朝抗美。

彭德懷看到廖漢生后，招呼他到跟前來，詢問西北這兩年的發展情況和西北軍區的整編情況。廖漢生詳細講述了一番。

這時彭德懷突然說：“組織決定調你當西北軍區政治部主任，準備一下。”廖漢生當即推辭道：“不行，我干不了。我這半輩子就沒干過政治部主任的工作。”

廖漢生的拒絕有點出乎彭德懷的預料，他知道廖漢生不是謙虛，而是真覺得自己干不了。政治工作廖漢生沒少做，革命戰爭以來，他歷任團、旅、師、軍分區、縱隊、軍、省軍區政委。廖漢生做的政委，是跟軍事指揮員一起帶兵打仗。

廖漢生認為，政治部主任的工作跟政委的不同，政治部的工作更細致、更具體。他知道自己的缺點：性情急躁。抗戰時期，他就向120師政委關向應，推辭過旅政治部主任的任命，要求去當團政委。關向應同意了。

彭德懷沒有接受廖漢生的推辭，堅持說組織上認為他是最合適的人選。雙方僵持住了，彭德懷見廖漢生的推辭態度很堅決，便語氣緩和下來，問道：“那依你看，這項任命該怎么辦？”

廖漢生仔細想了想，既然彭總說組織上準備讓自己當，那就意味著這項任命只差一個正式任命的通知了，恐怕推辭不掉。其實彭德懷讓廖漢生任大軍區政治部主任，一是為他好，二是信任他。

廖漢生仔細思索了一番，給出了一個解決方案，也算是一個要求。“如果一定要我當這個主任，就把那個7軍的政委冼恒漢調來，就做政治部副主任，給我打下手，不然我真干不了。”

廖漢生對冼恒漢很熟悉，解放戰爭時期，廖是1縱政委、1軍政委時，冼是下面的縱隊、軍的政治部主任。政治部的工作，冼恒漢確實比廖漢生熟悉。也不怪廖漢生想那么多，一個大軍區的政治部，自己一個從未管過政治部的人，就這樣上任管得好嗎？何況西北軍區剛結束一場大換血的整編。

彭德懷同意了廖漢生的意見，調他去軍區政治部的同時，也把冼恒漢調去了。

彭德懷跟廖漢生的關系并不是一直很順的。解放戰爭初期，彭德懷代替賀龍，直接指揮廖漢生等部，跟胡宗南等國民黨軍在陜北周旋。在此期間二人發生過幾次誤會和激烈的爭吵，但事后都沒有記仇，感情反而更好了。

彭德懷不介意廖漢生跟他拍桌子、提意見，他認為這是革命工作中不可避免的正常情況，相反若是有人陽奉陰違，這才讓人憤怒。