1951年9月，粟裕在蘇聯(lián)治病9個(gè)月后基本痊愈，回國后在京稍事休息。

一天，周恩來總理和朱德總司令一塊前來看望粟裕。兩位老首長的到來，讓粟裕分外感動(dòng)。

粟裕最早被周恩來認(rèn)識(shí)，始于南昌起義。粟裕當(dāng)時(shí)是起義前敵委員會(huì)警衛(wèi)班長，起義期間給周恩來站過崗。而最早被朱德認(rèn)識(shí)，應(yīng)該說是上井崗山時(shí)。粟裕正是跟隨毛澤東和朱德學(xué)習(xí)的打仗。某種程度上說，粟裕帶兵打仗的本領(lǐng)啟蒙于朱德。

這次兩位老首長一塊來看他，粟裕當(dāng)然很是激動(dòng)很是高興。而自從粟裕去蘇聯(lián)治病后，周恩來和朱德一直也都關(guān)心著他的病情。在問過粟裕在蘇聯(lián)治病情況后，周恩來對(duì)粟裕說：“中央決定，調(diào)你到總參謀部工作，中央讓我們倆來同你談?wù)劊蚰銈鬟_(dá)中央的這個(gè)命令，希望你能盡快到職。”（《粟裕傳》第一版，第864頁）

聽到這個(gè)命令，粟裕感到非常意外。

粟裕的意外主要在于，他認(rèn)為國家已開始由戰(zhàn)爭時(shí)期向和平建設(shè)時(shí)期轉(zhuǎn)變。與之相適應(yīng)，軍隊(duì)的戰(zhàn)略任務(wù)勢(shì)必隨之而進(jìn)行歷史性的轉(zhuǎn)變。在這樣一個(gè)轉(zhuǎn)折時(shí)期，粟裕也想到過自己下一步的工作之事。盡管在紅軍時(shí)期，特別是北上抗日先遣隊(duì)時(shí)期，粟裕也有過當(dāng)參謀長的經(jīng)歷，對(duì)司令部工作他很熟悉，但就他本人來講，他更希望能夠有一個(gè)機(jī)會(huì)，系統(tǒng)地總結(jié)梳理一下過去戰(zhàn)爭的經(jīng)驗(yàn)，并探索、研究、思考未來戰(zhàn)爭有關(guān)問題。這就需要有一個(gè)適當(dāng)?shù)墓ぷ鳝h(huán)境，而這個(gè)環(huán)境，粟裕的想法最好是部隊(duì)或?qū)W校。所以，粟裕怎么也沒有想到過中央讓他到總參謀部工作。

于是，當(dāng)著兩位老首長的面，粟裕非常懇切地推辭說：“我水平很有限，總部的工作恐難勝任，是否考慮別的同志為好？我到下面抓抓部隊(duì)工作或搞學(xué)校工作都可以”。

周恩來、朱德對(duì)粟裕說：“你來總部工作是毛主席點(diǎn)的將，我們認(rèn)為你來工作是合適的，你還是服從決定吧！”（《粟裕傳》第864頁）

粟裕見任命他到總參工作，是毛主席親自點(diǎn)的將，并經(jīng)過中央慎重考慮，于是也不好推辭了，他向兩位老首長表示：“既然組織決定了，我服從組織決定就是了”。

11月12日，中央軍委正式任命粟裕為中央人民政府人民革命軍事委員會(huì)第二副總參謀長（聶榮臻為第一副總參謀長，代總參謀長），仍兼華東軍區(qū)副司令員的職務(wù)。

沒多久，中央辦公廳主任楊尚昆打電話給粟裕，傳達(dá)毛主席指示，希望粟裕盡快到京上任。

于是，粟裕略事準(zhǔn)備，交接有關(guān)工作后，即于12月9日離開南京，11日到達(dá)北京，12日即向中央軍委報(bào)到，正式就任副總參謀長。從此，粟裕開始了他7年總參謀部工作生涯。