1945年9月19日，中共中央決定成立冀熱遼中央局，李富春任書記。這樣一來，李富春就要前往熱河省會承德展開工作，他此前擔任的中央辦公廳主任一職由楊尚昆接任。

李富春離開延安前，把中央書公廳的工作向楊尚昆作了口頭交代，他說：“我這里做什么你都清楚，就是這些人、這些事，全交給你吧！我早想找個替身，現在總算找到你了！”

楊尚昆

從此以后，楊尚昆在中央辦公廳主任的崗位上干了整整20年，他曾說：“中央辦公廳是中央的辦事機構，掌握黨的全部機密，把我放在這個位子上，體現了毛澤東對我的信任。”

新中國成立后，楊尚昆成了中南海大小事務的總管。中南海里每到周末，就會在位于頤年堂旁的春耦齋舉辦小型舞會，放映電影，或者請空政文工團來演出，后來每周三也開始舉辦演出和活動。幾乎每場活動，楊尚昆都會在場，羅瑞卿的兒子羅箭覺得他像“阿慶嫂”，總是在忙忙叨叨地張羅，誰家的人來了，誰家沒來，他都要清點到。

舞會結束后，楊尚昆通常會宣布：“放電影！”電影放完，通常已近午夜。楊尚昆回家后要繼續辦公或聽匯報，幾乎每天都在后半夜才休息。

楊尚昆

楊尚昆在回憶自己中辦主任生涯時曾說：

我在建國以后基本上就是起個“聽用”的作用。打麻將不是有一張可以當作任意一種牌使用的“聽用”嗎？辦公廳主任的工作也是“聽用”，黨需要你干什么就干什么。

在中央辦公廳待久了以后，楊尚昆覺得壓力很大，他曾幾次向毛澤東提出調換工作的申請，但毛澤東一直沒同意。有一次，毛澤東問楊尚昆：“你不當辦公廳主任，讓誰當啊？”楊尚昆推薦了胡喬木，毛澤東聽后卻連連搖頭：“他不行，他不行！”

后來胡喬木聽說了此事，也對楊尚昆說：“我當不了中央辦公廳主任。”

毛澤東和楊尚昆

但在1965年11月，中央突然下令免去楊尚昆的中央辦公廳主任一職。11月5日，彭真通知楊尚昆：中央決定調他去廣東工作，任廣東省委書記處書記，汪東興任中辦主任。楊尚昆后來回憶說：“我雖早有預感要被撤職，但來得這么突然，確實茫茫然。”

11月9日，楊尚昆給毛澤東寫信，說自己在中辦工作了20年，沒有把工作做好，辜負了毛主席和中央同志的期望，心情很沉重，也很慚愧，感謝毛主席和中央這次給他到實際工作中去鍛煉和改造的機會，今后一定盡自己的努力，全心全意地把黨分配的工作做好。在去廣州之前，如果毛主席有空，很希望見見主席，得到主席的批評、指示。

第二天，毛澤東接見了楊尚昆，他說：“你辦公廳的工作做得不錯嘛！你有什么錯誤？沒有錯誤。你下去工作一個時期，鍛煉鍛煉好嘛！”

毛澤東

毛澤東還給楊尚昆布置了兩個調查研究的任務：一是看中央和國務院有什么不適合于當地情況的政策、措施，可以寫個報告，提點意見；二是了解各條線下達了一些什么東西，同中央和國務院相矛盾的，幫助理順一下。毛澤東還說：“廣東那么熱，你到那里去干什么？現在既然已經決定了，你去兩年到三年，把這個任務完成。”

楊尚昆聽后說：“這個任務是一個很大的任務，我可能完成不了，但會努力去做。”

楊尚昆從毛澤東那里出來后，毛澤東的秘書田家英問他都談了些什么，楊尚昆如實告之。田家英聽后說：“糟了！如果毛主席狠狠地罵你一頓就好了，就沒問題了。毛主席這樣敷衍你，問題就大了！”

田家英

楊尚昆聽后很難受，他又去找周恩來辭行。楊尚昆對周恩來說：“我在中央辦公廳20年，雖然工作沒有做好，但是沒有做過反黨的事情，也沒有做過有損中央威信的事情。你是最了解我的，將來有可能被開除黨籍，如果有一天真的開除我的黨籍，我也沒有辦法，但這是冤枉的，只要你了解我，我心里就踏實了。”

周恩來安慰楊尚昆說：“你放心，不會那樣的，你下去以后好好地工作，不要背什么包袱。”最后周恩來一直送楊尚昆走出西花廳，才依依惜別。但楊尚昆萬萬沒有想到，這是他最后一次同周恩來會面。

1965年12月，楊尚昆到達廣東，1966年5月，他又改任臨汾地委書記處書記。“運動”爆發后，楊尚昆開始經受長達9年的“監護審查”。