會戰前的態勢是：整六十四師在青陀寺，整九師和整六十五師在蒙陰，整十一師在蒙陰、新泰間的常路，整二十五師和整七十五師在新泰，整八十三師在臨沂充總預備隊，左翼與在萊蕪的第五軍邱清泉部連接。

1947年7月7日，各師向東里店、南麻、魯村之線，搜索前進。二十五師黃百韜的前進目標，原定為南麻。7月9日，蔣介石電令改用第某號計劃，應改變為與第五軍用他來吸引解放軍包圍后，四周的八十三師、二十五師、六十五師等部再反包圍，里外夾擊，可以打個大殲滅戰。但態度驕傲，話不明說。李天霞見張已被圍于孟良崮，不但不救，反率八十三師先逃。黃百韜、李振憤其不聽命令，所以不加救援，以致被殲滅了。

1947年5月13日，整八十三師、七十四師、二十五師、六十五師由界牌、垛莊、桃圩、蒙陰之線，開始北進，六十四師控制于臨沂。當七十四師到達坦埠時，解放軍主力殲滅了萊蕪李仙洲部，轉而南下，如疾風勁雨。七十四師首當其沖，它自恃戰斗力強過任何部隊，自愿充釣餌，據守孟良崮，并放棄了天馬嶺據點。以致黃百韜原定的“以沂水支流為障，合八十三、七十四、二十五、六十五等四個師，連結固守界牌、蒙陰之城，另以七十四、二十五兩師之各一部，固守天馬嶺、蝦蟆嶺，陣如長蛇，擊頭則尾應，擊尾則頭應，去張則首尾之八十三、六十五兩師包圍其兩側，加以席卷，俟其攻勢頓挫，轉移攻勢”的穩妥計劃不能實施。而八十三師又先向青陀寺撤退，靠近六十四師，以圖自保。于是解放軍又得以約兩個縱隊兵力，遷回蒙山的西南，直向界牌、桃圩的后方加以圍攻。這樣二十五和六十五兩師的左、后、右三方面，亦受威脅，而不敢大膽全力地策應孟良崮。

當時黃百韜如果指揮二十五、六十五兩師，全力猛撲天馬嶺、蝦蟆嶺，七十四師或不致全部覆沒。無如黃一則因側背感受威脅，不能不先求自保，二則因七十四師號稱王牌部隊，張靈甫更目中無人，心懷不滿，故救援不甚熱心。后經多方力請，才派出少數部隊支援。而解放軍常以絕對優勢兵力，從事打援。天馬嶺仍屹然不動，根本未影響到孟良崮，到16日夜間，張靈甫已無消息。

七十四師消滅后，張靈甫的副官逃出，述說情況：原來七十四師一上孟良崮，把車輛遺棄山下，戰斗物資已損失不少；山下原有兩個水塘可以取水，也被解放軍阻絕了；山上無水，人馬渴不可耐，特別是馬，兩日無水草，都嚼斷韁繩，滿山亂跑，踏死撞傷士兵無數。旅長等問張：“無水怎能持久？必須想辦法。”張還說：“置之死地而后生，士兵既然怕渴，感覺渴死比戰死還難受，還不死力沖下去嗎？”可是解放軍層層包圍，突破一層又一層，終未突出。到16日日沒，張靈甫死，全師消滅。

張靈甫師在蔣軍中素稱王牌部隊，王耀武是依賴它由師長升到方面軍總司令的。故王聽到七十四師消息，多日吃不下飯，睡不著覺。

蔣集團內黨政軍各級人員，為之震動，再不相信如何消滅解放軍的任何說法，對國民黨的前途，也有了疑問。蔣介石憂憤交加。暫時放棄了他的主導作戰方針——“壓迫到膠東沿海而殲滅之”，而急于召開檢討會議，查究責任，欲殺黃百韜而甘心。黃得顧祝同、湯恩伯的包庇，僅得“撤職留任”處分，并把李天霞撤職查辦，取消湯恩伯的兵團司令名義。

從此建立戰地視察組制度，由蔣介石派遣視察組到各部，隨時將情況及部隊長優劣向他報告，部隊長更栗危懼，不敢發揮指揮能力，只事事待命，以致坐失戰機；或事事聽命于視察組，互推責任。經此次失敗，自感兵力不足，由全面進攻，改為重點進攻，說明了在解放戰爭時期，這一次戰役是轉折點。革命武力愈戰愈強，反革命武裝愈戰愈弱。