為統一領導山東各地蓬勃興起的抗日武裝，中共中央于1938年12月組建了八路軍山東縱隊，初步整合了分散的游擊隊力量。

然而，面對1939年日軍對魯中地區發動的、投入兵力達2萬余人的大規模“掃蕩”，山東縱隊在協同作戰和應對強敵時仍顯力量不足，暴露出統一指揮機制仍需加強的短板。

為徹底整合山東及蘇北的八路軍、新四軍力量以形成更強戰斗力，中共中央根據朱德、彭德懷的建議，于1939年5月決定成立更高級別的指揮機構——八路軍第1縱隊，由徐向前任司令員、朱瑞任政委，統轄山東、蘇北的八路軍第115師、山東縱隊及新四軍游擊支隊。

同年8月1日，徐、朱在沂水通電就職，并成立山東軍政委員會以強化黨政軍一元化領導，標志著山東抗日力量進入了更高層次的統一指揮新階段。

具體八路軍第1縱隊各級領導成員名錄如下：

朱瑞將軍與家人

一、八路軍第1縱隊領導機關（1940年6月撤銷前）

司令員：徐向前

政治委員：朱瑞（兼政治部主任）

參謀處長：羅舜初

補充：1940年6月，徐向前奉命返回延安，參加籌備黨的七大，八路軍山東縱隊恢復建制。1941年1月，八路軍第一縱隊番號正式撤銷。

徐帥

二、八路軍山東縱隊領導機關（1940年6月恢復獨立建制）

開國中將，張經武將軍

指揮：張經武

政治委員：黎玉

副指揮：王建安

參謀長：王彬

政治部主任：江華

供給部長：馮平（接替1939年的馬馥堂），政委：艾楚南

衛生部長：白備五

黎玉年輕照

補充：1939年10月，第一縱隊機關與山東縱隊機關合并（保留山東縱隊番號）

三、直屬部隊及主力支隊領導成員

1.特務團

團長：徐化魯（接替1939年的陸升勛）

政委：蔣乃平

參謀長：楊萬興

政治處主任：杜西書

馬保三

2.第1支隊

支隊長：馬保三

政委：周赤萍

副支隊長：錢鈞

參謀長：楊志雅

政治部主任：艾萍

第1團：團長李福澤、政委王文軒

第2團：團長徐化魯（兼）、政委孫澤民

第3團：團長楊志雄、政委劉桂生

開國中將，孫繼先將軍

3.第2支隊

支隊長：孫繼先（接替1939年的吳克華）

政委：潘壽才

參謀長：劉國柱

政治部主任：孔繁彬

第4團：政委張圣符

第5團：團長程涌、政委王大偉

第6團：團長黃其士、政委劉濤

開國中將，楊國夫中將

4.第3支隊

支隊長：楊國夫

政委：徐斌洲（接替1939年的霍士廉）

副支隊長：李人鳳

參謀長：包正文（接替包劍寒）

政治部主任：陳楚

第7團：團長鄭東林、政委孫正

第8團：團長許云軒、政委李曼村

第9團：團長趙寄舟、政委岳拙元

開國中將，廖容標將軍

5.第4支隊

支隊長：廖容標

政委：胡奇才

參謀長：石瀟江

政治部主任：張耀輝

開國中將，胡奇才將軍

第10團：團長陳奇、政委陳宏、政治處主任李希辰

第11團：團長單洪、政委侯得才

第12團：團長王鳳麟、政委劉春

開國中將，吳克華將軍

6.第5支隊

支隊長：吳克華

政委：高錦純（原支隊長轉任）

參謀長：趙一萍

政治部主任：張鐸

第13團：團長李紹橋、政委張而乙

第14團：團長李希孔、政委張子明（1940年6月6日靈山戰斗中犧牲）

第15團：團長梁海波、政委蔡雍泉、副團長林瑞伍、參謀長王翼、政治處主任李丙令

開國上將，韋國清將軍

7.隴海南進支隊

支隊長：鐘輝

政委：韋國清

參謀長：張炯（新增職務）

政治部主任：韋國清（兼）

補充：該支隊在1940年8月劃歸新四軍建制

解放戰爭時期，江華與夫人吳仲廉

8.蘇皖游擊縱隊

司令員兼政委江華（原名虞上聰），政治部主任吳仲

第1團：團長孫象涵、參謀長楊明卿、政治處主任梁鴻志

第2團：團長翁徐文、政委李浩然、副團長蔡王躍、參謀長謝濟舟、政治處主任徐競

補充：該縱隊于1940年4撤銷。

第9支隊：轄第1團（團長吳坤）、保安團（團長馬耀倫、政委王建青）。

第1縱隊成立后迅速展開軍事與政權的建設：

1.軍事行動：1939年6月粉碎日軍首次魯中大“掃蕩”；8月指揮淄河流域反擊戰，收復太河、朱崖等要地；1940年3月取得孫祖大捷（九子峰戰斗），殲敵200余人，打破日軍“以戰養戰”圖謀，成為山東縱隊首次重大勝利。

2.根據地建設：在魯中10余縣建立抗日民主政府，推動魯西行政公署及多個專區政權成立，為根據地鞏固奠定基礎。1940年6月徐向前返延安后，第1縱隊番號撤銷，其職能由山東縱隊承接，至1942年整編為山東軍區，兵力從2.45萬增至5.1萬，實現從分散游擊到軍區化協同的轉型。