早在1949年淮海戰役還沒有結束的時候，毛主席就和周恩來討論過，渡江戰役過后，應該讓誰來接管上海？當時周恩來的意思是，從劉、鄧、陳三人中挑選一位，但陳毅卻率先表示，自己不合適！

1937年賀子珍從延安離開出國，當時原本想去上海治病，不曾想上海淪陷了。兩年后，陳毅率軍來到上海，攻打了虹橋機場，而陳毅再次來到上海，已是十年后。
解放戰爭后期，湯恩伯把自己最后一萬軍隊從上海撤走，蔣介石臨走前還運走了大量財寶，當時粟裕和張震的部隊已經陸續向東移動，上海戰役一觸即發。
毛主席給粟裕發電，意思就是現在接管上海的工作還沒有做好，為了不打草驚蛇，三野先不要接近上海。言外之意就是，上海和北京一樣，文化價值不可估量，如果上海打爛了，解放上海就沒有價值了。
周恩來的意思是，先派出一個軍，嚇嚇湯恩伯，于是湯恩伯馬上逃走，毛主席知道機會來了，應該馬上挑選合適的人，和平解放上海。

當時比較適合的人有三個，首先是陳毅，他是解放軍第三野戰軍的司令員，然后是鄧小平和劉伯承。

但是當毛主席問道陳毅的意見時，陳毅首先認為，鄧小平和劉伯承比較合適，原因之一是，劉鄧大軍自從1947年挺進大別山后，為了和蔣介石的兵力周旋，一直在犧牲局部利益，吸引敵人火炮，付出了大量的代價，現在應該好好休整一下。
二來，陳毅認為他牽著劉鄧二人一份人情，要不是二野在背后支援，估計華東解放不好弄，所以說，劉鄧大軍過了太多的苦日子了，應該去上海。
在討論會上，為了讓陳毅去上海，劉伯承笑著說，我們是四川人，對西南比較熟悉，我和鄧小平還是去西南吧。陳毅不同意，陳毅反駁說，我也是四川人啊！
事情到這里，就僵住了，三選一，怎么也選不出來，最后毛主席和黃炎培等人商量了一下，黃炎培先生的意思是，綜合下來還是陳毅比較合適。

原因有三：
第一，陳毅擔任第三野戰軍的司令員，從山東打到上海，從名義上看是順水推舟的事情，讓陳毅擔任上海市長，是眾望所歸。

第二，上海的情況非常復雜，是中國的經濟中心，還有很多大商人和幫派，陳毅在黨內的名聲和資歷是完全可以和他們談判的，這是整治上海一事非常重要的。

第三，陳毅不僅是武將，還是出了名的“儒將”1939年所作的文章《茅山一年》和“脫手斬得小樓蘭”的詩句在大后方洛陽紙貴，所以像陳毅這樣兼資文武又有留學經歷的人去任市長實在再好不過了。
最后在毛主席的綜合考慮下，給陳毅下達命令，讓陳毅去接管上海。

陳毅雖然推辭，但既然是命令自然義不容辭，最后，上海解放后，陳毅在這里干的兢兢業業。
據說，上海上海一天就要燒20萬噸煤，陳毅到上海后，依然告訴戰士們，拿出當年紅軍的精神，不拿群眾一針一線，在很長一段時間內，陳毅帶著戰士們在上海樹立了威信，有一次市民家里被特務扔了燃燒彈，陳毅馬上帶任沖進去救人，讓上海市民震驚感動。
當然，對于陳毅來說，還有一件事非常棘手，那就是因資本家大批逃走，工業大都處在半解體狀態，，很多工人失業，工廠發不出工資，陳毅馬上開始重點抓經濟，還接見了當地企業代表榮毅仁等人，最后把上海變得越來越好。
值得一提的是，由于陳毅是上海市長，所以在1955年授銜時，按照“已經在地方工作的同志不再參加授銜”的規定，在十大元帥上沒有陳毅的名字，當時粟裕排第七。

但周恩來認為，陳毅雖然已經擔任上海市長，但他對中國革命的貢獻是極大的，雖然沒有參加長征，但論資歷，論能力，論貢獻，論威望，陳毅哪一點都不在話下。

至于軍銜問題，周恩來認為平時可以不穿軍裝，可以借鑒蘇聯的布爾加寧同志。
就這樣，在周恩來的力挺下，陳毅元帥被評為開國元帥，粟裕成了開國大將，名列第一位。