日军为了实施打通大陆交通线的《1号作战计划》，华北方面军司令官冈村宁次指挥14.8万日军、坦克装甲车691辆(内坦克225辆) ，向中国第一战区蒋鼎文、汤恩伯部8个集团军约30万军队发动了进攻。
4月17日夜，中牟方面日军第37师团及独立混成第7旅团首先从三王、中牟、傅庄强渡新黄河，守军暂27师奋起应战。
战斗至18日凌晨5时许，正对中牟的第2团阵地被突破，暂27师被迫南撤。此时日混成第7旅团由傅庄渡河，占领界马，并沿新黄河西岸向泛东挺进军柴桥阵地进攻，第37师团则分路向郑州、新郑、洧川、尉氏进攻。担任郑州挺进队的日军第22联队先遣第1大队(欠第4中队)，于19日拂晓即以急行军秘密进至郑州车站，并以偷袭占领了郑州北门附近城墙一角。
日军第37师团主力及混成第7旅团亦于19日晚进至尉氏以北。守军暂15军遂突围南退，至薛店集结整顿。铁路桥方面日军第12军主力在中牟方面日军开始进攻后，乘守军注意力集中于中牟方面之机，于18日夜利用夜色掩护，逐次经黄河铁桥潜至南岸邙山头桥头堡阵地，接近攻击准备位置。为解除南进时的侧背威胁，进攻开始前一日(1944年4月19日)晨，第110师团第163联队的第2大队在猛烈炮火掩护下，向邙山头西侧高地上的汉王城据点发动猛攻。
守军预11师1个营奋起抗击，激战至中午前后，阵地全被摧毁，营长王鑫昌以下300余人全部英勇牺牲。
守军第85军当即令预11师控置的预备队第33团向汉王城反击，同时令军工兵营增援摩旗岭，令特务营增援牛口峪，以加强防守力量。但由于日军后续部队不断增加，反击部队伤亡极重，团长余子培身负重伤，反击失利，摩旗岭高地亦于当夜失守，守军第110师撤向乐阳。
摩旗岭高地失守后，日军邙山头右侧已无顾虑，守军炮兵失去设于该高地的观测所，炮火威力无从发挥，对战局颇有影响。20日，守军第85军奉令向塔山、万山地区撤退。于是日军第62师团沿平汉路及其西侧地区直趋郑州，第110师团则向密县突进，战车第3师团及独立步兵第9旅团等均于20日拂晓进至黄河南岸。
至22日，郑州、新郑、尉氏、洧川、荥阳、广武、汜水、塔山、万山等地先后被日军占领。日军第110师团及第37师团第225联队分由北、东两面向密县进攻，于24日占领密县，并继续向登封推进。
25日，第110师团攻占虎牢关，守军第96军一部退至巩县。第12军主力在新郑以南地区集结，作下一步进攻的准备。
4月26日，日军第12军在新郑战斗指挥所召集师团长、旅团长开会，讨论进攻许昌、郾城及向左迂回的问题。
27日晚，正式下达了作战命令，令第62师团进出至许昌西南颍桥镇一带，阻截守军向西南山区撤退和由西南方向向许昌增援的通路，尔后准备向禹县进攻;令第37师团从北、西、南3个方向攻击许昌城，尔后以主力向舞阳进攻，以1个联队归第27师团指挥，向郾城方向追击，占领郾城后，留1个大队守备，主力归建，令第27师团在攻占许昌后指挥第37师团的1个联队攻占郾城，与第11军派出北上的部队会合后转归第11军指挥;令独立混成第7旅团由东面攻城，攻占许昌后留一部兵力守备许昌，主力准备向禹县前进;令骑兵第4旅团在许昌战斗后进出至北舞渡附近，准备沿旧县、宝丰向临汝前进;令战车第3师团以2个中队配属第37师团攻城，主力在攻占许昌后准备向临汝推进。
预定30日晨开始攻击。当日军部署进攻许昌时，第一战区组织反击，令汤恩伯以第29军全部以第13军两师击灭密县之敌。汤恩伯令第13军配属暂16师由禹县北向密县实施反击。这次反击虽然使日军第110师团暂时转为守势，但对日军第12军主力围攻许昌并未产生影响。
1944年4月29日夜，日军第62师团首先行动，迅速攻占第20师防守之颍河两岸阵地，掩护其他部队进入攻击出发地位。1944年4月30日拂晓，在炮兵、航空兵火力支援下开始攻击。守军新29师依托工事顽强抗击，日军伤亡甚众。激战至17时30分左右，守军伤亡惨重，日第37师团第225联队及战车第3师团第13联队分别由许昌城西和城南突入城内。
经巷战后，新29师于当夜在城东北角突围，突围过程中师长吕公良阵亡，残部逐次向叶县方向转移。
“华北派遣军”认为“当时在重庆军当中，第八战区的第1军和第一战区的第13军是各该战区中的精锐核心兵团。重庆军的特点之一，是核心兵团一旦被打垮，全军就要支离破碎，因此打垮第13军，就等于打垮汤军”。当得知汤恩伯的第13军正在登封地区反击密县日军第110师团的情况后，认为“围歼第13军的良机即将到来”，“方面军参谋部于是不断以电话、电报指示第12军'赶快咬住第13军，予以围歼”。
日军第12军根据方面军的指示，不待许昌攻下，就于1944年4月30日10时30分下达了攻占许昌后向登封转进、寻歼第13军的命令。攻占许昌后，第27师团及第37师团第227联队(配属1个步兵大队、1个山炮中队)于1944年5月1日夜由许昌南进，5月5日下午攻占漯河和郾城。守军第89军新1师向东撤走。
武汉地区日军第11军根据“派遣军总司令部”的命令，在日军占领许昌时，派独立步兵第11旅团(7个大队)于5月1日夜由信阳北上，2日至明港，3日拂晓至新安店。由于防守确山一带的第五战区第68军部队不战而走，日军第11旅团当日占领确山。
日军第27师团先头部队仅受守军第29师的轻微抵抗，即于5月7日占领遂平，9日进至确山，与第11旅团会合。平汉路南段被日军打通。
当日军第12军南进时，驻于上海地区的第13军奉“派遣军总司令部”之命，派第65师团师团长率其步兵第71旅团和第64师团的步兵第69旅团，于4月25日开始从安徽凤台、正阳关向颍上、阜阳进攻，以牵制位于平汉路以东的第15、第19集团军，策应第12军的作战。该师团的师团长惟恐过早深入而被歼，27日占颍上后即缓慢前进，至5月6日，9天时间仅前进约30公里。8日，日军27师团因已占领遂平，京汉路又基本打通，故返回原防。