1942年5月，八路軍總部被襲，副參謀長左權不幸犧牲后，由誰來接替左權，把八路軍司令部的工作挑起來，分擔副總司令彭德懷的工作壓力，是十分當務之急之事。

左權犧牲前，一直是彭德懷非常得力的助手。這位曾在蘇聯莫斯科中山大學和伏龍芝軍事學院深造過的八路軍副參謀長，可謂是久經戰陣、學識豐富，軍政兼優、文武兼備。彭德懷對左權十分敬重，凡重大軍事問題都與左權共同研究決策。當時，八路軍總司令朱德已回延安，這樣一來，“彭左”就代替了“朱彭”，“成為八路軍指戰員對自己前方最高指揮的親切稱呼”。

對于左權的工作精神和狀態，有人曾這樣描述道：“在這掌握半個中國戰場的八路軍總指揮部里，左權同志的確是最忙的人了”。

左權這一犧牲，對彭德懷的打擊非常大，等于失掉了半個天似的。《彭德懷傳》這樣說道：“沒有誰比彭德懷更深切、更痛心地感到左權犧牲的損失。誰來彌補這個空缺呢？”

經慎重思考，彭德懷最終向中央提出了3個來前方工作的參謀長人選，具體是：“兼備文韜武略的中共中央軍委參謀長葉劍英；能征善戰，剛從蘇聯養傷回國，也恰恰是36歲的林彪；黨性堅強、熟悉敵后情況的抗日軍政大學校長滕代遠”。

對于彭德懷推薦的人選，毛澤東經與朱德、王稼祥等研究，于1942年7月15日，正式答復彭德懷：“林病仍重，不能工作，葉不能離開軍委，總部參謀長以滕為宜”。

顯然，對于八路軍參謀長這一非常重要職位的人選，毛澤東的決定也是非常慎重的。

林彪自從誤受槍傷之后，雖到蘇聯進行了治療，但身體狀況一直較差。對于八路軍參謀長這樣的一個費心、費神、費力的工作崗位，以林彪當時的身體狀況，是很難吃得消、應付得來的。

葉劍英當時任中央軍委參謀長職務，抓軍事工作、抓統戰工作、抓外事工作，葉劍英在延安成了毛澤東、朱德指揮全國敵后抗戰的得力助手。朱德曾這樣評價葉劍英：“我們隊伍里這樣的人才不是多了，而是太少了，要充分發揮他的作用！”顯然，此時的“葉參座”也不能離開軍委，不可能到前線擔任八路軍參謀長之職。

這樣一來，接替左權的人選主要就落在了時任抗日軍政大學校長的滕代遠頭上。

對于滕代遠，彭德懷是再熟悉不過。大革命時期，兩人曾一塊發動了著名的平江起義，率部加入到紅軍的革命陣營。紅5軍成立后，彭德懷與滕代遠分任軍長和黨代表。紅5軍擴編為紅3軍團后，兩人分任軍團長和軍團政委。紅軍時期的滕代遠可謂是威名赫赫、聲名赫赫。他和彭德懷一道曾創造了無數個輝煌與經典。

對于滕代遠這位老搭檔、老戰友，彭德懷后來曾這樣評價道：“代遠同志對平江起義幫助不小，是平江起義的領導者之一，特別是軍隊中建立政治工作、建立黨、建立工農兵蘇維埃政權，都起了積極作用”。

就這樣，滕代遠最終接替左權就任八路軍參謀長。彭德懷和滕代遠“兩個共同領導了平江起義、1933年在紅3軍團依依分手的老戰友，在民族艱危的1942年秋，又一起并肩作戰了”。