解放戰爭時期，徐向前因病直到1947年6月才披掛上陣，被任命為晉冀魯豫軍區副司令員。主要負責內線作戰、攻占山西的任務。從1948年5月開始，徐向前轉任華北軍區副司令員、華北野戰軍第一兵團司令員兼政治委員。此時的華北軍區司令員正是聶榮臻。自此之后，一直到建國前，徐向前始終都給聶榮臻做副手。

兩個人的這個職務經歷，按說在1955年大授銜時，聶榮臻似應排在前面。但為什么徐向前卻排在前面了呢？

首先，憑的是紅四方面軍總指揮的經歷。

元帥是最高軍銜，其標準條件自然定得很高。當時《中國人民解放軍軍官服役條例》中指出：對創建和領導人民武裝力量或領導戰役軍團作戰、立有卓越功勛的高級將領，授予中華人民共和國元帥軍銜。而在創建和領導人民武裝力量方面，徐向前曾是紅四方面軍的總指揮，是紅四方面軍的主要創始人之一。當時，紅四方面軍是除紅一方面軍外，幾大紅軍中最大的一支戰略力量。同時期的好幾個元帥級別的人物，包括彭德懷、林彪、聶榮臻等，大多都是軍團長一級。這說明徐向前早在紅軍時期，僅憑紅四方面軍總指揮一職，就已經奠定了其相當高的歷史地位。

其二，憑的是解放戰爭中橫掃山西的戰功。

單論建立的戰功，紅軍時期的徐向前絕對是威名赫赫、戰功赫赫。甚至在元帥一級當中也是名列前茅的。盡管因身體原因，徐向前從抗日戰爭后期便一直處于養病之中，盡管他在解放戰爭進行一年時才披掛上陣，但在他的高超的組織指揮之下，硬是率領一支偏師，克臨汾、掃晉中、攻太原，打敗了遠比他的部隊多得多的敵人。

對于徐向前留在內線，橫掃山西所取得的輝煌戰績，毛澤東和中央軍委對徐向前給予了高度的肯定。特別是晉中戰役，毛澤東對徐向前的指揮藝術非常稱道和贊許。有鑒于此，盡管徐向前在解放戰爭這一威武雄壯的戰爭舞臺上，相較很多高級將領“表演”時間并不長，但其所建立的戰功絕對是可圈可點的，是毫不遜色的。

其三，憑的是建國后第一任總參謀長的現實職務。

太原戰役后，經毛澤東和中央軍委批準，徐向前開始到青島療養，以致于連開國大典都沒能參加上。但毛澤東并沒有忘記他，依然未放棄對他重用的機會。1949年10月19日，徐向前被任命為人民革命軍事委員會總參謀長。

對于這個任命，遠在青島養病的徐向前事先并不知曉。但是，誰都知道共和國第一任總參謀長位置之重要、責任之重大、使命之光榮。這充分體現了毛澤東和中央軍委對他在政治上的高度信任與器重。

而有意思的是，在任命徐向前為總參謀長的同時，又任命聶榮臻為第一副總長，同時明確在徐向前養病期間代理總長職務。

這樣的安排，確實體現了毛澤東的不拘一格的超常用人之道。同時，這樣的徐正聶副的安排，顯然也給隨后的評銜時，徐向前排在聶榮臻前面增添了一個定數和砝碼。