这一战役首先是从河南开始，华北派遣军总司令冈村宁次大将调动第十二军的三个师团。另从绥远调来坦克第三师团，还有关东军第二十七精锐师团，以及在华北的三个旅团，约十五万大军，再加上驻扎在山西境内的日第一军一部，伪南京中央政府的张岚峰、孙良诚、庞烦勋、孙殿英等部，在大量飞机的配合下，集结了三十多万大军，气势汹汹地向郑州进攻。
国民军参加河南战役的是第一战区，总司令长官是蒋鼎文。此时，蒋手里有七个集团军。这七个集团军的主官是：
第四集团军总司令孙尉如
第十四集团军总司令刘恩茂
第十九集团军总司令陈大庆
第二十八集团军总司令李仙洲
第三十八集团军总司令李家钰
第三十九集团军总司令高树勋
第十五集团军总司令何柱国
这七个集团军共下辖十八个军，总兵力为三十万人。显然，国军力量严重不足。
冈村宁次的华北派遣军兵分两路，第一路军由第二军及坦克部队等部组成。四月十七日，日军第十七师团渡过黄河向郑州前沿的中牟地区猛攻。战役从此时开始。
国军守中牟将军是刘恩茂部将——第15军军长刘秉哲。面对强大的日军攻来，刘部拼死奋战，仍抵挡不了日军的强大攻势。经两天的坚守战，第15军全线溃退。日军乘势渡过黄河，向中原重镇郑州扑来。同时，日第三十七师团的第二十二联队已绕过正面战场，偷袭郑州的侧翼。当三十七师团赶到郑州城下时，日第二十二联队已攻占郑州，训练乏术的国民军撤出郑州。可怜的中原重镇、陇海和平汉两大铁路枢纽的郑州就这样地落入了敌手。真可谓失去容易，收复就难了。此时的刘恩茂不知是何滋味。
但那日寇则管不了那么多，初战得手，第二天就占领了新郑、尉氐，二十三日占领长葛。五月一日，中原名城许昌沦陷。五日堰城也失于敌手。五月十一日，日华北方面军在确山与北上的的日第十一军第十一旅团会师。日军在河南如入无人之境，平汉铁路中部地区全部陷于敌手。
与日军第三十七师团进攻郑州的同时，日军第二军从五月初从偃城等地向平地杀来。日山西第一军的两个旅团由垣曲向东南合击洛阳。洛阳乃第一战区司令部所在地。蒋鼎文见日军来势凶猛，立即调动大军迎敌。可惜远水救不了近火，仅两天时间，日军先后占领登州、临汝、襄城等城，逼进洛阳。蒋鼎文好不着急，一连数十道电令各部火速向洛阳靠拢。
且说重庆国民中央政府主席蒋中正，得到郑州失陷的消息，十分恼怒，连连电令蒋鼎文死守洛阳，违者军法处置。由于有韩复榘在前，叶肇在后，这两个集团军总司令都死于军律之下。因而，这位蒋司令官也不敢怠慢，布置军队在洛阳与日军决战。戍守洛阳的是第十五集团军何柱国的第14军之49师，该师九千余人。东北军将士本能征善战，接何柱国和第14军军长武庭麟的电令，王建庆师长组织部队死守城池。
日军攻洛阳的力量，显然比国军人数多得多，又有坦克第三师团一部的配合。你看那数以百辆坦克装甲车群起而动，漫山遍野地向城郊冲来。坦克的炮火是那样密集，洛阳城内，仅两三个钟头之间便承受了上万发炮弹。那爆炸声一阵紧似一阵，多少房屋倾刻间便成了废墟，不少平民百姓随之也死于侵略者的炮火之中。
国军见此，发炮还击，可怜，国军的炮火与日军相比，悬殊太大了。王建庆见洛阳城倾刻间便要陷于敌手，命令所有的炮火一起还击日军一部，竟打退了日军的第一次进攻。晚上，王建庆连夜修复了被炸毁的城墙。第二天，王师长命部队将成束的手榴弹放在迫击炮筒里，利用炮弹的携带力，向城外日军一束束掷去。这种做法竟弥补了炮弹之不足，见日军攻势减弱，王师长下令全线出击。在肉搏中，国军将士无不争先恐后杀敌，将攻入城内的日军杀退。
到了第二天的晚上，援军仍不见到来。王师长对师部主官们说：“何司令长官要我等死守洛阳，数万日军在成群的坦克的配合下已两次突入城内，虽被我军杀退，但我军的损失已过半，而日军的锐气又不减，诸位有何良策以挽回战局？”众皆默然，无一有主张。王建庆奋然，说：“我部大多将士生于东北，要生还家乡，何日才能。既然诸君无策挽回危局，我等只有死战，以报国恩。诸位切记，此时突围已难。大丈夫战死于沙场，虽不图青史留名，也落得壮烈魂归故里。明日杀敌虽死犹生。”
由于前两天的攻城，日军都遭受到国军的顽强抵抗。第四天，日军倾巢而动。那日军的炮火向城内猛轰，将几米厚的城墙轰塌了一大口子，日军源源不断地沿着缺口处涌进城来。这是日军第三次进城了。王建庆大怒，亲自带着直属营，冲在前面，他将轻机枪操在手中，一阵猛扫，日军虽众，但火力施展不开，国军一阵冲杀，将缺口处的日军杀退，夺回了缺口。
然而，当王建庆站在城楼上，参谋长向他报告，剩下的国军还有不足两千人时，王建庆一股悲哀涌上心头：“区区两千人，如何抵挡数万日军的进攻。”
夜晚，精疲力竭的王建庆站在城楼上，遥望天空，虽繁星万盏，但却无法驱逐那心中的苦闷，此时的他已是一筹莫展。再看远处，那依稀可见的日军营房里，灯光闪烁之中，成群的坦克将日军围成一团，在品尝佳肴。此时突围是最好的良机，冲出去，至少还有几百号人生还。但将军未接到突围的命令，又岂敢自专。何况城内居民是多么的舍不得自己的子弟兵啊。见警卫连长在身边，王建庆无不愧疚的对他说：“我对自己的选择无怨无悔，所不能饶恕自己的是不应该将老母，幼儿、娇妻留在城内。老家已无回去之理，但总不能让老母看着自己的儿子的尸体被日军抬着游城示众吧。”他有些心寒，但他此时又能说些什么呢？独自一人尚且血战到底，何况还有一两千相亲相爱的弟兄。
这天，也就是1944年的5月20日下午三时，数万日军在上百辆坦克的配合下，向洛阳城发动了猛烈的进攻，守城部队再次投入了战斗。王建庆已无力阻挡日军入城，只好率部进行巷战。哪知几个小时后，日军见我军顽强抵抗，也不知城内的虚实，竟退出城内。王建庆大喜，带领残部五百余人，发一声喊，斜刺里冲出。待日军追赶时，这里已冲出去好几里路了。出围后，王建庆清点人数，仅存三百七十余人。
日军被王建庆杀怕了，直到天亮后才发动新一轮的进攻，见未遭到抵抗，方知是一座空城。河南重镇洛阳陷于敌手。
洛阳失陷，河南战役结束。这次战役，从四月七日开始，五月二十四日结束，共计三十七天，陷城市三十七座，一天一座。仅管蒋委员长调兵遣将，然而，终未挡住日军的进攻。而与此同时，日华中方面军总司令钿俊六也指挥三十万日军向薛岳的第九战区发动了极为猛烈的进攻。
还在河南战役时，日本当局便命钿俊六开始了长衡之战。长衡之战就是指长沙和衡阳的一次大会战。早在二月初，日军即开始调兵遣将。五月二十五日，钿俊六来到汉口，部署长衡战役。
长衡会战的日军是华中派遣军整编第十一军。日军整编第十一军是一个大集团军，现编有八个师团又一个旅团。再加上从其它地方抽调出来的部队，总兵力为三十万人。钿俊六为使战役进展顺利，还调动了日飞行大队和四万匹战马到前线，由第十一军军长横山勇作前线总指挥。
此时，阿南惟机已调回日本国内。接替阿南的是塚田玫。塚田玫生于1886年，1935年官拜少将，1938年晋升为中将，1942年接替阿南惟机时已晋升为大将。当时，塚田玫参加钿俊六的南京军事会议后，乘专机回武汉时，由于飞得很低，在皖鄂交界的太湖县上空为我国军第138师高炮部队击中，机毁人亡。这是侵华日军被我击毙的最高军衔的日军军官。今年的2月，横山勇接替塚田玫职务。上任不久，便举行第三次长沙战役，结果大败而归。
中国方面迎战的是第九战区司令长官薛岳。现薛岳手中有十七个军的编制，总兵力为四十万人。人数与日军大致相当，但装备明显低于日军。显然，这是又一次以劣势对优势敌人的进攻。这些天，薛岳一直在考虑，日华中方面军动用如此大的兵力的目的是什么？前面三次长沙会战，皆以日军大败亏输而结束，这一次与前两次的差别又在什么地方呢？如果是寻国军主力决战，不占大城市，则应避实就虚。待日军将老兵疲时予以痛击。他把这个想法告诉重庆的蒋委员长。蒋委员长第二天回电同意他的作战方案。
薛岳接到委员长的电令，便命第20军军长杨汉辰率部守汩水，第4军军长张德能部守长沙。又命李玉堂兵团守衡阳。为防不测，他急调第三十集团军总司令王陵基部守益阳，部署完全后，薛岳将司令部移向衡阳，并将情况告诉蒋委员长。
在重庆的蒋委员长看了第九战区的部署，认为很周密。正因为如此，才使国民军的大帅蒋中正和第九战区总司令长官薛岳忽视了强敌压境的日军在立体作战中的强大威力。而薛岳也丧失了集中兵力痛歼日寇一股的时机。
到了5月27日，日军第十一军总司令长官横山勇指挥八个师团在飞机和坦克的配合下，分路向第九战区发动了前所未有的特大规模进攻。日军的进攻分为一线兵团和二线兵团。一线兵团担任正面作战，由其精锐的四个师团组成。三个师团为二线兵团，作为机动部队。另外还有两个旅团为辅助部队。