郑州失守后，北洋集团大为惊恐，在洛阳的北洋军58师原本就快要抵挡不住熊克武部和预备四师的进攻，在得知郑州陷落的消息之后，58师上下人心惶惶，兵无战心，士气极为低落，预备四师又连续发动了两天的猛攻，58师终于抵挡不住，残部作鸟兽散，师长王承斌更是死于乱兵之中。
洛阳的丢失，让屯兵潼关的曹锟部如坐针毡，直接面临东西两面夹击的危险境地，曹锟想得很清楚，在北伐军还没有来得及从东西两面夹击的空档中，他便让吴佩孚带人秘密在黄河渡口搭建简易桥浮桥，连夜从潼关从仓惶撤退到黄河以北地区，并同时派人在黄河沿岸监视北伐军的动静，尽管此时黄河水位有些高，可他也顾不了许多了，他可不认为仅凭自己受伤不到两个师的兵力可以抵挡东西两面的加急。
8月24日，北伐军全面占领除去山东境内的黄河下游地区，西线战场、中路战场和东线战场连成一条线。
8月27日，南京发出命令，西路军蔡锷部留下两个新的整编师驻防，蔡锷部渡过黄河向山西境内逼进。经过短暂休整的中路军受命继续北进和东进，渡过黄河先后攻占新乡、鹤壁和濮阳等地，至此北洋集团在河南境内的势力全部被铲除。
面对北伐军的步步紧逼，袁世凯不得不紧急抽调第3、12、13、四个师火速南下与原有的第10师、17师残部一起迎战蔡锷，又从东线战场抽调15、16、60、61师向西运动到曹县、东明、甄城、梁山一线布防，防止中路军攻击东线北洋军防线的侧翼。
除此之外，袁世凯又命令将62师、63师和66师从河北中北部移动到阳谷、大名一线，防止北伐中路军继续北进突入河北境内。
与北洋军越打越少不同的是北伐中路军越打越多，熊克武部已经回归到西路军建制，中路军张孝准能指挥的有26师、31师、预备四师、湘军43师、暂编91、92、93、94师，一共八个师的兵力，在兵力上比东线战场蔡国栋能指挥的部队还要多。
北洋军在东线战场抽调走四个师指挥，防线上终于出现了漏洞，这让东线战场负责指挥安徽北部作战的伍世友发现了战机，他发现驻防在鱼台的北洋军只剩下一个71师，这个是个新编练而成的部队，新兵训练都来不及完成就被派上了战场。
得到情报指挥的伍世友当即向蔡国栋请战，蔡国栋经过仔细推敲指挥很快就同意了伍世友的作战计划。
8月29日，伍世友命令自己最精锐部队之一的29师率先向驻防鱼台的北洋军71师发起攻击，东线战场正式打响，这是自北伐开战以来，东线战场打的第一仗。
29师不愧是华东12个整编正规师的其中一支部队，它的战斗力绝对不是预备四个师和其他各省地方军队能比的。
战斗只进行了一个上午，29师只用了一个团的兵力就全线击溃了71师的全部防线，71师残部仓惶向后撤退至金乡，于此同时，已经进入无人防守的商丘的32师也向单县进军，单县只有15师一旅，在得知32师正在向单县进军之后，15师第一旅立即在城外修筑防御堑壕，可是对于已经实现了驮马化的华东军而言，15师修建堑壕的速度也太慢了，堑壕还没有挖掘完成，32师就已经打到了跟前，15师一旅仓惶之间不得不撤往城内防守，师部分配的一个山炮营也来不及转移而被迫扔在了城外被32师俘获。
当得知1旅遭到攻击之后，驻防在曹县的15师2旅立即派出一个团前来增援，可惜这点兵力对于32师这种精锐部队根本不够看的，32师分出一部分兵力围困单县，用大部队埋伏了前来增援的15师2旅1团，这个团在一个上午的时间里全数被围歼。
失去了炮兵部队的15师1旅被围困在单县城内惶惶不可终日，在32师铺天盖地的炮火打击下，城防部队损失惨重，又在32师连续两天的攻击之后，剩下两千余人强行突围在损失了大量人员后，只剩下一千两百多人向东北方向的金乡撤退，将自己的师长丢在了西南面的曹县。
身在曹县的15师师长刘询只剩下一个团的步兵，除此之外还有一个骑兵团、一个工兵营、辎重营、一个炮兵营。在第1旅被围困在单县的时候，刘询根本无法进行增援，只能眼睁睁看着第1旅被围攻，只因他手上的兵力太少，兵力太过分散。
正所谓牵一发而动全身，以刘询手上现有的兵力和火力根本无法抵挡32师的兵锋，在权衡之后，刘询向冯国璋发电请求向后撤退到金乡，冯国璋也考虑到以刘询现在兵力根本不是32师的对手，为了避免32师被吃掉，冯国璋命令刘询撤退到菏泽与王廷祯的16师和60师的曹瑛部互为犄角，这三个师恰好分布在一个三角形的三个角上，主要其中一部遭到攻击，另外两个师可以随时增援。
攻占鱼台的29师继续进军，躲在金乡的71师残部和15师一千多人在金乡勉强抵挡了两日后不得不一直撤退到济宁才算站稳脚跟，但由于71师和15师一部的大幅度撤退，给北伐军东路军制造了一个十分有利的战机。
没有了71师残部的牵制，29师立即挥师东进，在微山湖畔收集了大量的渔船，一个团的兵力以迅雷不及掩耳之势攻占了微山湖东面的微山县城站稳了脚跟，冯国璋全然没有防备29师竟然会利用微山湖上的渔船渡过南北走向的微山湖。
在得知微山县城失守的消息之后，冯国璋大惊失色，他立即调兵想抢回微山，但此时29师大部队已经渡过微山湖，就连重武器都全数运了过来，原本均衡对峙的局面终于被打破了，29师攻击了北洋军东线战场的西面侧翼，这让冯国璋措手不及。
看着快要抵达枣庄城下的29师，他只能拆东墙补西墙，他的司令部可是就设在枣庄啊，现在29师已经近在咫尺，如果不调兵过来挡住，他的司令部就只能转移，可司令部的转移带来的后果是灾难性的，前方的将士必定认为司令部都撤走了，这仗还有什么搞头？而且司令部从枣庄撤走，在军事上就意味着把处在台儿庄的北洋第3师和第4师这两个精锐师的后背留给了北伐军，一旦这么做，北洋第3师和第4师很有可能遭到围歼。
要从其他抵挡抽调兵力就必要就近，太远不能及时赶到，而且兵力数量不能太少，最少也要一个师的兵力，想来想来也只有将驻守兰陵的19师抽调过来。19师师长雷震春，此人武艺高强，手不释卷。此人很早就追随袁世凯，是袁世凯的铁杆支持者，在原来的历史上，他本是北洋第7师师长。
如果要讲资历，雷震春并不比冯国璋低，只不过冯国璋的起点要比雷震春高一些，小站练兵的时候，冯国璋是主要教官之一，而雷震春是步兵右翼第三营后队队官。
雷震春很多从前小站时期的手下现在都成了师长，有的官职比他还高，他心里当然极为不爽，特别是冯国璋，混到现在他也只是一个师长，而冯国璋已经统领着十个师。
接到冯国璋的调令，雷震春存心要给冯国璋一个难堪，他命令部队一天只行三十里，从兰陵到枣庄足足走了两天才到，等他赶到的时候，冯国璋在枣庄西面的防线已经岌岌可危，不过好在他及时赶到，才避免了枣庄被29师攻破的厄运。
冯国璋本来一肚子火，可雷震春总算是在关键时刻赶来了，倒是没有造成无法弥补的后果，可即便如此，冯国璋在枣庄的防御力量也已经损失惨重。
雷震春部被调到枣庄的小心很快被军事情报局的人查出来，情报以最快的速度传到了蔡国栋的手上，蔡国栋当即给伍世友下达了命令，让29师休整一天，放弃攻击枣庄，于次日夜里沿微山湖东岸掉头南下攻击在台儿庄的北洋第3师和第4师侧后方。
枣庄距离台儿庄并不远，29师接到命令之后于第二天休息一天，并没有继续向枣庄发起进攻，而刚刚抵达的雷震春部也只想出工不出力，没有主动攻击29师，其实雷震春也不是不想，而是想着等休息好了再与29师一决雌雄。
9月2日晚，八点才天黑，天黑之后早已经吃过晚饭并且准备妥当的29师悄悄撤离了阵地并迅速向南方前进，只在枣庄西面的阵地上故布疑阵迷惑了冯国璋和雷震春。
9月3日清早6时许，29师大部队抵达台儿庄附近的马兰屯，不过由于重炮部队还没有抵达，师部主官当心缺乏重炮部队的支援而功亏一篑，而且行军一夜，全体官兵又饿又困，于是让全体官兵吃点干粮之后休息，不过为了保密，29师派人封锁了前往台儿庄的道路，只准进不准出。
中午，野战炮团和各团山炮营相继抵达，随后辎重部队也赶到了，于是师部高层给蔡国栋发电，相约下午三点从南北两个方向同时展开进攻。
在枣庄的冯国璋还正在纳闷29师怎么连续两天了都没有动静，阵地上倒是有人走动，偶尔还会向这边打几枪，他丝毫还不知道29师已经不在原地了，早已经抵达了台儿庄附近。
冯国璋总算是一个比较精明的人，他心中存着疑惑，命雷震春派出一个营的兵力对29师的阵地发起了试探性进攻，可反馈回来的消息让他大吃一惊，29师的阵地上只有一个班的人，这些人在雷震春派出一个营进攻之后就迅速骑马跑得不见了踪影，两条腿又如何追得上四条腿？
枣庄，北洋军第二军司令部。
“你说什么？29师不见了？”冯国璋闻讯大吃一惊。
参谋道：“是的，大人！”
冯国璋急忙问道：“29师去了哪里？快说！”
“暂时还不清楚，大人，我已经派人去查了，29师不在阵地上，一万余人还有重炮部队离开肯定会留下痕迹，我相信我们很快就会得知他们离去的方向！”
冯国璋此时心里泛起阵阵寒意，这个29师只要不是渡过微山湖向西离开，无论向哪个方向前进都会给他的部署打来很大的破坏，他最担心的是29是南下去攻击北洋第3师和第4师的后背，如果是这样，只怕第3师和第4师凶多吉少，要知道在面临两面夹击的情况下，这个世界上只怕没有任何一支军队能够扛得住，更可怕的是一面先行进攻，吸引守军的全部注意力，另一面趁着守军的全部注意力被吸引到正面之后再从背后突然伸出，没有任何一支军队可以在这样的情况下全身而退。
掏出怀表看了看，冯国璋道：“现在是2点40分，我给你二十分钟的时间，一定要确定29师离开的方向！”
“是，大人！”
当冯国璋得知29师的确沿着湖边南下的消息时已经是下午三点半了，他立即命令参谋让发报员给陆建章和杨善德，这两个人分别为第3师师长和第4师师长，杨善德原来在浙江新军任协统，不过后来他被蔡国栋排挤出来之后就回到了京城继续在袁世凯手下混饭吃，去年袁世凯便让他出任了第4师师长，只可惜当陆建章和杨善德收到冯国璋的电报时已经为时已晚。
台儿庄的战斗打响在下午三点钟，之所以选择这个时间是因为天气的问题，三点钟正是昏昏欲睡的时候。之前，南北双方在这里只是对峙，并没有开火，一直以来双方好像都已经习惯了一般，可突然而来的战斗打破了这里的对峙局面，因此北洋第3师和第4师所有注意力都被对面进攻的21师和23师给吸引了。