抗日戰爭全面爆發后，國共兩黨開始合作抗日，陜北一帶的紅軍主力改編為八路軍，南方八省的紅軍游擊隊改編為新四軍。新四軍成立之初，沒有師級編制，軍下面直轄四個支隊，總兵力一萬余人。當時新四軍的軍部設在了云嶺，處在國民黨第三戰區的包圍之中，發展受到了很大的限制。

毛主席多次去電催促，讓項英盡快率部過江到蘇中發展，或者先到蘇南也可以，總之就是要盡快離開云嶺。但項英在南方堅持了三年的游擊戰爭，習慣了打游擊戰，他認為江北多水網地帶，不適合部隊打游擊，而且江北日軍、偽軍和頑軍的勢力很大，新四軍即便過江也不容易發展。

基于這個判斷，項英一直拒絕北上，最后陳毅和粟裕率部從蘇南過江，來到了江北發展，通過黃橋決戰站穩了腳跟。與此同時，張云逸和彭雪楓等部也在江北取得了不小的發展。到1940年年底的時候，新四軍的主力部隊發展到了9萬余人。新四軍的發展壯大引起了蔣介石的恐慌，他強行命令江南的新四軍過江，并讓顧祝同做好了對新四軍發起進攻的準備。

毛主席識破了蔣介石的圖謀，多次去電催促項英盡快過江，和陳毅粟裕等人會合，以應對顧祝同和湯恩伯可能發起的進攻。但項英就是不愿意離開皖南，遲遲不肯動身，因此錯過了最佳的轉移時間。直到1941年一月，皖南新四軍9000余人才開始轉移，走到茂林的時候，遭到了國民黨軍的突然襲擊。

此時新四軍仍有一線生機，因為國民黨軍還沒有完全到位，負責正面攔截的國軍只有不到一個師的兵力。新四軍只要集中兵力從正面強攻，將敵人擊潰的可能性還是很大的。但項英此時卻猶豫了起來，在打與不打的問題上搖擺不定，并為此開了數個小時的會議，最后決定不打，原路返回，由此失去了一個最為寶貴的突圍機會。

敵人利用這幾個小時徹底完成了合圍，被圍的新四軍將士盡管進行了英勇的奮戰，但最終突圍失利，除少部分人沖出重圍后，大部分人被俘或英勇犧牲。皖南事變后，蔣介石宣布取消新四軍的番號，此舉遭到了延安的堅決反對。不久后新四軍重建，以陳毅為代軍長，下轄7個師和一個獨立旅，總兵力9萬余人。

在陳毅等人的帶領下，新四軍得到了極大的發展。那么新四軍鼎盛時期，一個師最多能有多少個團呢？答案你絕對想不到。到抗戰勝利的時候，新四軍第三師已經擁有了32個團，蔣介石得知后當即就懵了。新四軍第三師的前身是八路軍第5縱隊，皖南事變后被改編為新四軍第三師，下轄第7、第8和第9三個旅，黃克誠為師長兼政委，彭雄為參謀長，后來由洪學智接任。

第三師成立后，在黃克誠和洪學智等人的帶領下，多次和日偽軍作戰，據不完全統計，整個抗日戰爭期間，第三師一共消滅日偽軍6萬余人，為抗戰的勝利作出了極為重要的貢獻。到1945年8月的時候，新四軍第三師下轄三個主力旅和一個獨立旅。當時第7旅旅長為彭明治，下轄第19、第20和第21三個團。

第8旅旅長為張天云，同時他還兼任鹽阜軍分區的司令員。當時第8旅下轄第22、第23和第24三個主力團，除此之外，還有阜寧獨立團、阜東獨立團、鹽城獨立團、鹽東獨立團、射陽獨立團、建陽獨立團、淮寧獨立團、漣東獨立團和濱海獨立團；第10旅的旅長為劉震，同時他還兼任淮海軍分區的司令員。

當時第10旅也下轄三個主力團，分別是第28團、第29團和第30團。除了這三個主力團之外，還下轄9個警衛團，分別是淮陰警衛團、漣水警衛團、宿遷警衛團、宿懷警衛團、泗宿警衛團、沭陽警衛團、灌云警衛團、東海警衛團和潼陽警衛團。當時第三師獨立旅的旅長為覃健，下轄第一、第二和第3三個團。

除此之外，當時的新四軍第三師還下轄一個抗日軍政大學第5分校，該分校編有兩個特務團。這樣算下來，新四軍第3師共有12個主力團，此外還有9個獨立團、9個警衛團和兩個特務團，一共下轄32個團，總兵力近4萬人，這還不算軍區內的縣大隊和區小隊等游擊武裝。

新四軍的一個師就有32個團，兵力幾乎和中央軍的一個軍相當，蔣介石得知后都懵了。盡管他用盡了各種辦法對新四軍進行打壓，但新四軍還是取得了極大的發展，而且發展速度也遠遠超出了他的預料。黃克誠不僅在帶兵方面是專家，而且他的戰略眼光也很高。

抗戰勝利后，他就敏銳地意識到了東北的重要性，并向延安提建議立即派部隊赴東北，應盡量多派，“至少應有5萬人，能去10萬人為最好”，以創建一塊大的戰略根據地。黃克誠的這個建議和毛主席的設想不謀而合。不久后中央從各個解放區抽調了大量的精兵強將趕赴東北并組建了東北民主聯軍。

黃克誠接到命令，要求他率領第三師前往東北。當時，第三師駐地距離東北相隔甚遠，途中的行軍主要依賴步行。然而，黃克誠毫無怨言，更未向上級提出任何條件，便立刻著手進行行軍準備。有人傳言東北遍地武器，隨意可得，因而有不少人建議將武器留在原地，以減輕部隊長途行軍的負擔。然黃克誠心思周全，毫不理會眾人的勸阻，決定攜帶所有武器，甚至將棉衣一并帶上。經過兩個多月的艱苦跋涉，他最終按時抵達東北戰場，第三師也成為東野首長的重要生力軍。在東北戰場上，黃克誠曾擔任多個重要職務，為解放東北全境做出了極為重要的貢獻。1955年，他被授予大將軍銜，排名在陳賡之前，位列第三。此舉不僅體現了他卓越的指揮才能，更彰顯了他在艱難時刻所展現出的堅定信念與無畏精神。