1933年，年僅30歲的張靈甫就任國民黨軍第1師胡宗南部的獨立旅1團上校團長；同年冬天，他在四川廣元與當地女子吳海蘭拜堂成親、喜結連理，可謂“雙喜臨門”。不料，僅2年后，胡宗南就在西安對自己的妻子痛下殺手，用手槍將其擊斃，制造了轟動一時的“團長古城殺妻案”。

殺妻案轟動全國，張被判刑

吳海蘭死后，由于張靈甫是胡宗南的嫡系，而胡又是蔣介石的“頭號門生”、“心腹愛將”，當地警察局根本不敢問罪。吳海蘭的親屬為了討回公道，直接找到了少帥張學良的夫人于鳳至控訴，于氣憤之余找到蔣介石的夫人宋美齡，聲稱：“王子犯法，庶民同罪，你們要秉公嚴懲。”

不久，消息傳開，各地婦女界都義憤填膺，聯合上書要求嚴懲兇手。蔣介石只得給胡宗南下令，吩咐將人送南京軍事法庭查辦，最后張靈甫被判處10年徒刑。但1937年初，張就獲釋出獄，因為當時全面抗戰爆發在即，蔣介石下令釋放了除政治犯外的所有在押官兵，讓他們全部歸隊，戴罪立功。

全面抗戰爆發前夕，出獄戴罪立功

張靈甫也獲釋出獄，但已無法返回胡宗南部駐扎的西安城，只好去了駐扎漢中的第51師王耀武部，先是擔任上校侯差員，后來單任該師153旅305團團長。7月7日盧溝橋事變后，全面抗戰爆發，第51師與浙江保安部隊改編的第58師合編，在武漢組成第74軍，這就是后來覆滅于孟良崮的國民黨軍頭號王牌整編74師的前身。

第74軍剛剛成立，就被投入了炮火連天的“八·一三淞滬抗戰”前線，張靈甫團作為主力，被部署在戰況最激烈的嘉定地區。為了打退日寇的瘋狂進攻，張靈甫身先士卒，親率百余名敢死隊員沖殺在前，帶領全團連續打退日寇7次沖鋒，斃傷800余人。淞滬會戰剛結束，張靈甫又率部投入南京保衛戰，因表現出色，被晉升為153旅副旅長兼305團團長。

抗日戰場上屢屢奇功，不斷擢升

1938年4月，51師在黃陂接受軍委會校閱，獲得優良考評，張靈甫305團的成績名列全師第一，因此張擢升153旅少將旅長。武漢會戰期間，孤軍冒進的日寇第106師團被國民黨軍6個主力師合圍在德安附近的萬家嶺一線，眼看整建制消滅日寇1個師團就擺在眼前，戰役總指揮薛岳連續下令發動猛攻，最后將其壓縮在萬家嶺、張古峰兩座山頭上。

為了首先拿下天險張古峰，孤立設在萬家嶺的日寇師團部，張靈甫親自率領突擊隊，攀爬張鼓峰后山絕壁，最后一舉奇襲得手，不但孤立了敵人，還徹底堵死了第106師團的退路。此后，張靈甫又先后率部參加南昌會戰、上高會戰、第二三次長沙會戰、浙贛會戰、鄂西會戰等，均有不俗表現，職務也水漲船高，先后升任第58師副師長、代理師長等職。

1943年11月，張靈甫率領第58師參加常德會戰，重創當年南京大屠殺元兇之一——日寇第13師團，獲頒云麾勛章1枚，還被蔣介石夸獎為“模范軍人”。1946年，74軍部整編成74師，張靈甫被任命為師長。但抗戰勝利后，張靈甫立即率部投入了內戰戰場，最終于1947年5月16日在孟良崮戰役中被擊斃 ，時年44歲。