國共合作實行抗日民族統一戰線后，紅軍統一改編為八路軍和新四軍。其中八路軍下轄115師、120師、129師共三個師。三個師的師長分別是林彪、賀龍、劉伯承。徐向前被任命為129師的副師長。

根據統一改編安排，129師是以原紅4方面軍的部隊為主體組建的。而徐向前曾作為紅四方面軍的總指揮，在這次改編中，沒能當上129師的師長，自然少不了引起一些人的議論。

當時，這種議論主要是來自兩個方面的猜測和傳說：第一個方面的猜測和傳說是，紅軍改編為八路軍，開始時是有四個師的編制，徐向前是四位師長的人選之一。但后來蔣介石對八路軍的編制進行限制，最后只給了三個師的編制。這樣一來，徐向前就只好當副師長了。第二個方面的猜測和傳說是，129師的師長之職本來是準備讓徐向前當的，是徐向前主動提出當副師長的。這樣，師長就由劉伯承來擔任了。

人事任命問題向來復雜敏感，何況是129師師長這么重要的崗位。張國燾南下分裂中央“事件”出來后，大家都對四方面軍的干部使用問題給予了更多的關注。這原本上也是正常的、無可厚非的。更何況所謂的猜測和傳說確實也不是完全的空穴來風。據《毛澤東年譜》記載：當初紅軍在改編為八路軍時，毛澤東和中央軍委一度確有過編四個師的考慮，具體是：“以方面軍編為師，軍編為旅，師編為團。而以27軍、28軍、29軍、30軍、31軍五部共5千人，連同地方武裝，準備編為第四師，留置后方，保衛蘇區根據地”。

顯然，如果八路軍編為四個師，且按“以方面軍編為師”的基本原則，那么，徐向前當師長的可能性還是非常大的，甚至是不二的人選。

但徐向前是個非常講黨性原則的人，他對待個人問題一向是謙遜低調，一向是以革命事業和利益為重，一向是堅決貫徹執行中央決定。對于下面同志們的這些議論，徐向前為避免以訛傳訛、避免因傳聞而影響工作，他曾專門實事求是地給大家作出過解釋。他這樣說道：“革命就是為黨工作，黨叫我們做什么就做什么。中央叫做的就堅決去做，中央安排我擔任什么就是什么，我們是干革命的，不是為當官的呀”。

從四方面軍的總指揮，到129師的副師長，徐向前毫無怨言，堅決聽從黨的安排。八年前，中央派他到鄂豫皖搞軍事工作時，他一上任擔任的也是副師長。他在紅31師副師長任內，很快便打出赫赫威名，沒兩年便升任紅四方面軍的總指揮。

這次上任129師副師長之后，徐向前根據安排，迅即投入到偉大的抗日洪流之中。