郑州南城门西南方向的防线崩溃之后，守将黎天才和一大片北洋军官兵投向了北伐军，黎天才是云南彝族人，他之前是鄂军第一师师长，后来黎元洪整编鄂军，他被抽调到北洋军，他是清末大臣岑春煊的老部下，袁世凯也比较欣赏他，就任命他在北洋军中当了一个师长，他原本就是心向革命的，如果不是不得已，他也不会一直留在北洋军中，从侧翼被突袭之后，他很快率领溃兵投靠了北伐军。
张孝准从黎天才和李进才那里获悉了张怀芝在城内的城防部署情况，看来张怀芝已经做好了打巷战的准备了，下午他就安排了进攻战斗，首先以重炮轰垮了郑州城墙，然后他命令以班为战斗单位沿着城内各条街道、小巷向城内渗透，并命令掷弹筒小组和迫击炮班跟在后面提供火力支援。
南面三道防线被突破之后，张怀芝部署在西面和东面的防御已经不起作用了，他迅速将部署在西面的第8师撤回城内，连同11师一起在城内与北伐军打巷战，为了给自己留下一条退路，他并没有把部署在东面的第9师撤退城内，万一郑州实在守不住了，可以从东面撤退，北面是黄河，仓促之间是无法撤离的，只能从东面撤走。
战斗打成巷战之后，情况就变得艰难得多，紧张也开始变得慌忙，最重要的北伐军的大量山炮和野炮在巷战中发挥的作用已经不大，北洋军在张怀芝的安排和部署下以结构坚固的建筑为据点，火炮在城内移动困难，而且对躲在坚固掩体后面的北洋军没有办法，不过掷弹筒和迫击炮却在巷战中发挥了极为重要的作用，这两样武器不仅威力大、火力猛，更关键的是它们很机动灵活，可以随时移动，只需要一两个人就可以扛着到处跑。
城内北洋军的抵抗意志并不强，战斗进行到傍晚时分，北伐军已经占领了火车南站以及周边地区，并且夺取了车站内的火车头和车厢，这让张孝准极为高兴，有了火车在运送兵力和补给方面就极为方便了，他当即下令找人将火车开走。
入夜，张怀芝的指挥部。
为了撤离的方便和安全方面的考虑，张怀芝将指挥部设在了东门附近，八月份正式极为炎热的时候，指挥部点着几盏马灯，勉强将偌大的指挥部里照亮，但在场的人无不热汗淋漓，神情焦虑。天气本身就热，再加上战事糜烂，士气低落，生死前途堪忧，众人无不焦躁不安，也难怪这些人就像是刚从水中捞出来一样的。
军官们都坐在椅子上，有人抽着香烟，有的呼着水嗬嗬、还有的人靠在椅背上抽着大烟，张怀芝满脸阴沉的看着这些一个个老烟枪吞云吐雾，心中哀叹，北洋军有这些老烟枪领军焉能不败？再看看段芝贵，早已经返回了京城，估计这会还与别人搓着麻将，快活无比呢！北洋军中真正有能力的人屡遭排挤，而没有能力靠着拍马屁、拉皮条取得袁世凯欢心的人却占据着高位。想到这里，张怀芝有些心灰意冷，但又不能丢下这些数万人马一个人开溜，回去之后怎么向袁世凯交代？
“都给我听好了！”张怀芝敲了敲桌子，见众人都停下来看着他，才继续阴沉着脸说道：“现在都到了生死关头了，你们还他吗的抽，不抽会死啊？丢了郑州城，我们怎么回去面前总统？还有脸面吗？以前我不管你们是怎么样的，现在都给打起精神来！”
第八师师长王汝贤诉苦道：“张大人，今天一个下午我师防守的西门防线就被迫放弃了三分之一，弟兄们伤亡惨重啊，北伐军也不知道哪里来的那么多小炮，一打一个准，我手上所有的水连珠机关炮到现在就剩下三挺了，其他的全被北伐军用那些小炮给敲掉，现在弟兄们时士气低落，我看着郑州城十有八九是守不住了，咱们还是尽早做打算吧？”
“啪！”张怀芝闻言大怒，一拍桌子吼道；“混账，你这是扰乱军心，来人，给我拖到外面毙了！”
“是！”两个士兵从外面冲进来拖着王汝贤就往外面走。
众军官吓得心惊胆颤，看着张怀芝这架势是来真的，都哆嗦着不敢求情王汝贤却大叫：“姓张的，你他吗敢杀我？你有什么权利杀我，你不经过大总统同意就杀我，大总统不会放过你的！”
张怀芝丝毫不为其言语所动，直到外面一声枪响，喊叫声停止之后，他才盯着指挥部内其他军官沉声道：“第八师由李长泰暂时任代理师长！”
李长泰闻言顿时大喜，立即站起来向张怀芝立正敬礼道：“是，卑职必定不负大人厚望，坚决守住阵地，绝不后退一步！”
张怀芝摆手道：“其实刚才王汝贤有一句话没说错，这郑州城如果没有援兵来支援我们，恐怕迟早是要失守的，不过我们当兵吃粮，是为大总统效力的，总不能把郑州城拱手相让，北伐军要夺取郑州，我们势必要让他们崩掉几颗大牙才对得起我们拿的那些军饷。现在北伐军已经夺取了火车南站，距离我们这里已经不远了，我决定收缩防线，李长泰，你的第八师向后撤退到火车西站一带防守，抽调一个团的兵力到南面帮助第11师布防！”
“是，大人！”
张怀芝又对第9师师长孔庚道：“孔师长，中午的时候北伐军一个营的部队抢夺了北面的黄河大桥，我军向北渡过黄河的退路已经被切断，你的部队一定要给本官拼死守住东门外的阵地，那是我们唯一的逃生之路了，如果东面的防御阵地也丢失，那我们就全完了，明白吗？”
孔庚道：“张大人，我尽力吧！”
新郑，北伐军中路军指挥部。
张孝准将副官叫过来拿出一封信交给他道：“你拿着这封信连夜赶去郑州，驻防在东门附近的北洋军是原山西陆军第一师师长孔庚的部队，在日本陆军士官学校留学的时候，我跟他是校友，也是革命同志，只不过他比我低几届，我毕业的时候他才刚入学一年，你找到他将这封信交给他！”
副官接过信藏好，向张孝准敬了一个军礼之后转身离去。
孔庚与阎锡山是日本陆军士官学校第六期骑兵科的同班同学，关系很好。辛亥革命时，他被清廷任命为专使，他则乘机往来于京城、孝感间，联络同志，传递消息。本拟亲赴武昌参加革命，无奈中途受阻，那时恰好吴禄贞驻石家庄，于是前去相见，被任为行营参谋长。后来吴禄贞被刺，孔转赴太原投阎锡山，被委为朔方招讨使，与清军战于碓门关一带，因功晋任晋军总司令，南北和谈之后，他被阎锡山任命为山西第一师师长。可以说孔庚还是有着强的革命倾向的，这也是张孝准给孔庚写这封信的原因。
在信送出去之后，张孝准立即让人给南京方面发去了一封电报，将说服孔庚战场起义的事情向南京方面进行了汇报，萧震雷接到张孝准的电报之后当然明白他的意思，就是能够给孔庚什么样的待遇，只有萧震雷那边给出条件之后，张孝准才好与孔庚商谈。
很快，萧震雷就在南京发来了电报，张孝准从通讯参谋的手上接过电报看了看，萧震雷给的条件是算孔根战场起义，部队仍由孔庚统辖，番号为暂编93师，归张孝准节制，等北伐战争结束之后在行整编事。
8月18日，张孝准亲赴前线与孔庚商议起义事宜，孔庚倒是很愿意倒戈，但是他担心家人的安危，他的家人都在太原，他不敢保证阎锡山不会把他的家人怎样，这也是他唯一心忧的一件事情，张孝准当即表示他来想办法将孔庚的家人从太原接出来。
与孔庚进行商谈之后，张孝准立即找到军中负责情报的军官，要求军情部门想办法把孔庚的家人从太原救出来带去南京，军情部门很快给出了答复，会立刻联系太原方面的情报人员展开行动。
由于孔庚与阎锡山是同学，阎锡山对孔根还是很放心的，因此也没有派人对他的家人进行监视，这让负责营救的情报人员很轻松地就将孔庚的家人从太原带了出来。
这两天北伐军没有进攻，张怀芝、李长泰和陈光远等人好好休整了两天，但更大的忧虑在张怀芝心中升起，他不知道这两天北伐军为什么会没有发动进攻，尽管这两天他和防守的北洋军都没有受到攻击，可他心中越来越不安。
8月21日，孔庚得知自己的家人已经被南京方面的人从太原接出来之后就放心下来，当天下午就召集全师军官宣布起义，并迅速向城内第9师陈光远部发起猛烈进攻。
陈光远部被打了一个措手不及，东门被突破，张怀芝惊恐之下来不及布防，被孔庚直接突进到指挥部附近，城内的北伐军两个师的残部顿时陷入重重包围之中，插翅难逃了。
在组织兵力进行了几次大的突围战都失败之后，绝望之余张怀芝掏枪自杀身亡，陈光远和李长泰率部投降，张孝准立即指挥部队进城接管城防，安抚民众，并对投降的北洋军进行整编，淘汰老弱，留下精壮。