河南省地處中原腹地,平漢、隴海兩鐵路交叉而過,綰魯、皖鄂、陜、晉、冀6省,戰略地位十分重要。早在1936年,國民政府軍事委員會便把河南作為國防重點,修筑了鋼筋混凝土的國防工事。迄至抗戰爆發,已在豫北構筑了道口、滑縣、浚縣陣地,安陽至淇縣陣地汲縣、新鄉、輝縣陣地,封丘至延津陣地,內黃附近陣地,焦作、博愛沁陽陣地;在豫東修成了歸德、蘭封、開封、鄭縣陣地;在向西則有鞏縣至洛陽陣地。

平津失守之后,宋哲元第一集團軍駐守在豫北,戰略任務是利用豫北堅固的國防工事,保持平漢路,阻止日軍南下。平漢線日軍土肥原第十四師團占領安陽、大名以后,兵力不足,無力沿平漢路繼續南下,于是減弱了攻勢,與中國軍隊在豫北相持。

日軍為了策應津浦路日軍作戰，于1月26日下達了黃河以北作戰的命令,“首先以第十四、第一〇八師團攻占新鄉平原及潞安平原,然后以兩個師團的有力部隊向曲沃及臨汾平原追擊。

中國方面,2月6日,第-戰區制定作戰計劃中,決定“確保豫北廣大地域并策應第工戰區友軍之作戰，以一部于平漢正面與敵對陣,以主力控置道清線待機,并各以有力之一部于平漢線兩側地區游擊,擾敵敵人”。

2月7日,土肥原師團發起了對豫北的進攻。第二十七旅團從大名出發,向南樂、清豐、濮陽一線推進。由于上述地區中國守軍僅有4個保安團約四千人,戰斗力極弱,根本無力抵抗日軍的強勢進攻,使日軍得以長驅直進,兩天之內攻陷南樂、清豐,接著圍攻濮陽城。濮陽的戰略地位十分重要,假如日軍攻下濮陽,西可進攻道口;西南可進逼封丘、延津,攻道清鐵路中國軍隊后背:南可渡黃河直取東明威脅蘭封。

第一戰區司令長官程潛急令第七十七軍副軍長張凌云指揮3個旅以及張德順騎九師由東明、道口向濮陽之敵實施反擊，一個旅救援清豐。但吳振聲旅行動遲緩,畏敵不前,貽誤戰機,還聲稱“非有四個旅兵力不足阻敵前進”。10日,日軍兵力增至一個混成聯隊約五千余人,在飛機、重炮的掩護下,從被轟塌的城垣缺口沖入城內,濮陽遂陷。

同時，土肥原師團主力約3個聯隊萬余人亦由安陽向平漢路守軍陣地進攻。日軍在飛機、重炮的配合掩護下,兵分三路攻勢猛烈連連突破我軍陣地。12日晚,萬福麟聲稱陣地被毀,兩翼受圍,傷亡嚴重,擅自命令放棄湯陰陣地,退至淇河南岸--線。

濮陽、清豐、南樂幾日之間相繼失守,平漢線正面陣地又被日軍輕易突破,蔣介石對此十分震驚,急電令程潛、宋哲元“希嚴督所屬努力抗戰,最小限度須固守道、滑、浚及淇河陣地,確保豫北之最后根據地,相機收復原陣地為要”。但這一命令未被執行,秦德純致電蔣介石,稱“豫北我軍兵力薄弱,應援不及……如兩日內新鄉無大部援軍到達,深恐無法收拾也”。言下之意,如無援軍,還要后退。

13日,由于萬軍主動撤退至平漢路西側地區，日軍輕而易舉地占領了淇縣,道清鐵路沿線便在日軍的直接攻擊下。當時宋哲元的指揮部在新鄉,集團軍總司令部在博愛(清化鎮),汲縣附近部署大約有6個師的兵力,如果奮力迎擊日軍,當可堅持一段時間,以顯中國軍隊威力。14日，日軍集中兵力向中國道清鐵路沿線陣地發起全面進攻，濮陽日軍兵分兩路,一路攻陷長垣、封丘后,向新鄉南之平漢路疾進;另一路向道口進攻,連占道口、滑縣、浚縣、輝縣、百泉。駐守這些地區的中國軍隊僅稍作抵抗,便潰退。日軍兩千余人沿道清鐵路向西攻擊撤退的中國軍隊,如人無人之境,連陷新鄉、獲嘉、獅子營、修武,守軍宋哲元部一退而不可收拾。宋哲元在從獲嘉西逃時,差點被日軍裝甲車追上當了俘虜。

22日,日軍僅以小部騎兵輕取博愛,并在一天內連陷汗良鎮、泌陽、孟縣。25日,日軍由博愛分兵兩路,繼續進攻。石黑大佐率步兵兩個大隊,野炮兵兩個大隊北進,攻擊晉城、陽城,至28日占領之。酒井旅團長率步、炮兵各3個大隊繼續西進,并分兵向黃河北岸推進,宋哲元部退至山西絳縣、夏縣、茅津渡之線。至此,土肥原師團主力挺進至黃河北岸的垣曲、王屋、濟源、孟縣、溫縣、武陟、封丘、長垣、濮陽一線,與中國軍隊隔河對峙。第一戰區也調集重兵在黃河南岸防守。

臺兒莊戰役勝利后,為了策應徐州會戰，國民政府軍委會調集了大量精銳部隊置于蘭封、商丘、碭山之間的隴海鐵路附近。土肥原師團于5月12日渡過黃河后,繼續向南突進,意圖占領蘭封,消滅隴海路東段中國軍隊主力,并攻占鄭州。15日,該師團在曾縣兵分東北兩路,向隴海線要點攻擊前進。

國民政府軍事委員會對日軍的戰略意圖早有察覺,為了保證隴海鐵路的暢通,先后調集了大量部隊置于蘭封至歸德間鐵路線。軍委會于5月15日制定了相應的作戰方針,以應對日軍的進攻。

為了將土肥原師團消滅在內黃、儀封、民權之間,蔣介石下令第二戰區發動蘭封附近的會戰。其部署如下:李漢魂指揮東路軍,由歸德(商丘)西進;桂永清指揮西路軍,由蘭封東進;孫桐第三集團軍和商震第二十集團軍組成北路軍,在定陶、荷澤、東明、考城附近斷敵退往黃河北岸的歸路。此部署意在從東、西、北三個方向合力夾擊土肥原師團,將其一舉殲滅。

5月21日,中國軍隊開始向日軍土肥原師團發動全面進攻。經激烈戰斗,收復了內黃。日軍主力六千余人向西南的楊固集、雙塔集逃竄。宋希濂指揮部隊猛攻儀封,日軍棄寨而去。

5月23日,宋、俞兩軍又奪回了西毛姑寨、楊樓、和樓等村莊,給敵人以沉重打擊,日軍被殲千余人。日軍第十四師團集中力量向楊固集、雙塔集地區攻擊。此地區駐守著極優勢的精銳部隊,并配備了邱清泉指揮的戰車營和裝甲車連,陽敵西逃,可謂以逸待勞。然而在日軍的攻勢下,桂永清指揮連連失誤,致使連失馬集、孟效集。第二十七軍陣地被突破,桂永清竟率領所屬部隊退向開封、縣,令第八十八師接替第一〇六師防守蘭封。第八十八師師長龍幕韓在桂永清退走后,也在23日夜擅自棄城逃走,使之成為無人防守的空城,致使日軍于24日不費一槍一彈而占領隴海路上的戰略要地蘭封。這樣,中國軍隊攻勢毀于一旦,日軍得以擺脫圍殲厄運,并據守蘭封至陳留、黃河南岸之線頑抗。隴海鐵路被完全切斷，

蘭封失陷,使開封、鄭州面臨日軍的威脅,蔣介石十分震怒,下令槍斃龍慕韓,以圖重振軍威。國民政府軍事委員會為此制定了反攻蘭封,圍殲土肥原師團的作戰計劃,決定由薛岳任第一兵團總司令,指揮胡宗南、李漢魂、俞濟時、宋希濂、桂永清各部于25日晨發起全線進攻,由西向東包圍蘭封、羅王寨、三義集、曲蘭集一帶的日軍第十四師團。反攻作戰打響前,蔣介石告誡各軍將領:“此次蘭封會戰,關系整個抗日戰局。”“如有畏縮不前、攻擊不力者,按律嚴懲;如戰役中建功勛或殲敵俘獲最多者,當特予獎給。希飭所部凜遵勿違為要。”

5月25日,薛岳指揮豫東兵團對日軍發起猛攻。當晚即奪回了蘭封車站,26日，又奪回了羅王車站,27日,第七十一軍在攻占蘭封外圍許多要點后收復了蘭封。日軍第二十七旅團的殘部向三義寨逃去。羅王車站和蘭封的收復,使隴海路恢復了通車,被隔斷在商丘附近的42列滿載物資的火車得以撤回鄭州。日軍第十四師團主力六千余人收縮至三義寨附近,被豫東兵團所包圍,但據守反抗。

豫東各部隊未能在限定時間即26日拂曉之前攻殲蘭封之敵,戰局進展不大,對此,國民政府統帥部流露不滿。27日,焦慮中的蔣介石親下手令““此次魯西之敵以極惡劣兵力,到處竄擾,毫無忌憚,而我軍以極有利態勢，至今猶未將蘭封及其以西地區之敵徹底解決言之痛心。各該軍長等指揮無方,行動復,以致士氣不振,畏縮不前,將如何以對國家付托之重,如何以對民眾企望之殷”,訓斥各將領,并提出希望,“茲限電到,立即反省,振起精神,戴罪圖功,并限儉(28)日以前嚴督所部將敵完全殲滅,以贖前愆,如再敷衍,頑忽因循,決不姑寬。

日軍于28日向第二十七軍陣地反擊,桂永清又一次“獨斷命令各部隊向楊固集、紅廟間地區轉移陣地,沿途拋棄無線電機及武器彈藥,情形頗為混亂”。

5月28日,蔣介石又下達手令“務請毅然決心,速抽六師以上兵力在側后方作預備隊,而指定李鐵軍、李漢魂、俞濟時三軍負責掃清當面殘敵。即使被突破數點,沖出包圍圈外,我可與之野戰,則較為得計。此時東路敵軍必于兩三日內向西急進，由周口直出許昌、鄭州,則后方實在堪虞。若我軍不早為計,則如此大兵群集于狹小區域,且左限黃河,殲滅甚易。務希當機立斷,即于本晚實施,一面整理戰線,一面抽調部隊,以備萬一。并以此意轉薛伯陵(薛岳)、胡宗南決心遵行,勿稍延誤”。

桂永清部的潰敗,再次給日軍創造了一個喘息的機會。同時,商丘失陷,我軍不得不抽調5個師的兵力前去支援,這樣,蘭封附近對土肥原師團的進攻遂停頓下來。28日,中國軍隊曾攻入三義寨,但經一夜激戰受挫,到29日,攻勢仍無進展，

從5月25日至29日的5天內,蔣介石、程潛、薛岳等人每天都發出好兒道手諭或電令,敦促各將領“立即反省,振起精神,戴罪圖功”甚至還懸賞20萬大洋以鼓士氣,但仍未有效。中國方面以精銳部隊13個師近15萬人，竟未能殲滅已被圍困的土肥原師團近兩萬人，不能不值得中國軍隊思索。戰后,軍委會將丟失蘭封、商丘的桂永清黃杰二人撤職查辦,以警示其他將領。