此时的战况发展实在是大出日军华北派遣军司令官寺内寿一大将的意外。原本他以为只需个把月就能夺取的徐州开始变得遥遥无期起来。在临沂损失了坂本第21旅团，在滕县又死伤了三千多，如此一来，必须得加派援军才能继续南进计划了。
在等候了三天之后，日军补充兵员到达，相应的武器弹药补给也送了过来，第五、第十两个师团再度齐装满员。同时，为了加强进攻力量，第114师团跟附第10师团南下，东面第101师团佐藤支队被船运至连云港（古称海州）登陆，和第5师团准备夹击临沂。
为了将日军吸引过来打一次大的歼灭战，李义指示杨大龙主动收缩战线，以山东枣庄和徐州东面的台儿庄为两面最后战线，在鲁苏交界处集中全力歼灭敌人两到三个师团。据中方手头现有的军力，计有保安军三个军30余万人，川军22集团军3万余，第2集团军孙连仲部3万余人，张自忠59军2万余，庞炳勋部一万余人，第三集团军于学忠部及鲁军4万余人，还有敲边鼓的汤恩伯部第20军团，苏北韩德勤57军等等，杂七杂八估摸着总在50万出头，完全可以打上一次大规模的会战。
按照部署，东线汤恩伯部第20军团和韩德勤57军的对手是101师团佐藤支队。汤恩伯揪头，韩德勤拽尾，将其留在海州、东海附近。庞炳勋的任务依旧是层层阻击日军第5师团，逐步将其引至台儿庄附近，孙连仲第2集团军的任务是死守台儿庄，至少要求守住三日。第三集团军于学忠部及鲁军的任务是掐断第五师团的粮道，配合台儿庄保卫战。张自忠部作为战略预备队。北线主要交给保安军来应付，川军22集团军作为战略预备队，护住两条战线之间的空档，关键时候要担负阻击日军第五师团增援第十师团的任务。
4月14日，调整到位的两军几乎同时展开了动作，整个鲁苏大地枪炮齐鸣，战火重开。让李义没想到，老蒋喜出望外的是开场打得出彩的居然是汤恩伯第20军团。和佐藤支队甫一交手，汤军团主力第52军就在东海吃掉了1600余日军，缴获日军战车3辆，大炮9门，直接将佐藤支队打得缩回了海州。其实要不是韩德勤的57军多为保安团改编战力较低，挡不住日军的归路的话，绝对有可能和第20军团将佐藤支队包围吃掉。可这也让老蒋长了脸了，毕竟是自己的中央军的战绩不是！他也不想想，汤军团兵强马壮、武器齐全不输日军，以几万人打人家五千多人，有什么可以自豪的？况且还有个57军在不断骚扰！
不过，跟着企图再建新功的汤恩伯就吃了个大亏，他出兵强攻海州，打算歼灭佐藤支队。可在日军十余艘军舰大炮的支援下，部队伤亡了近三千人才罢了手。只得后撤守在海州附近，虎视眈眈地盯住佐藤支队了事。此战况老蒋批示勇气可嘉，李义的讲法是愚蠢，不可再犯！
相比汤军团的得意洋洋，东线几个杂牌打得要艰难的多。面对第5师团的三万余鬼子，几十辆坦克，上百门大炮的冲击，庞炳勋、张自忠哥俩是轮番上阵，可还是连连后撤，直到台儿庄将皮球交给孙连仲。弄得正在指挥北线作战的杨大龙揪心不已，最后和李宗仁商议，从南面调回21集团军廖磊周祖晃的第七军靠拢保卫徐州才安下心来。不过，这几支杂牌打得十分顽强，每一道防线都拼杀了不少鬼子。也为保安军北线作战争取到了时间。李宗仁、李义对他们慰勉有加，老蒋确实大为摇头撇嘴。不过他想想杂牌也就这么个水平，心下倒也释然了。
北线的日军相反却是打得缩手缩脚的，第10师团师团长矶谷廉介似乎嗅出了危险所在，一边频频试探攻击，一边等待第114师团跟上来。这么着一个南沙河战线日军一直耗了5天才从保安军手里夺去。搞的第三军军长金豹子大喊假打比真打还累！
这个状况从日军渡过南沙河开始改变了，日军突然加速，一天之内陷高桥镇、夺柴胡店，一口气攻击20余公里，打到了枣庄郊外。哎，这才像勇武无畏、武功赫赫的皇军嘛！司令部的参谋们长吁了一口气，鬼子总算是拱上钩了！
其实，原来这五天矶谷廉介一直都是等候第114师团进驻邹县和滕县，替他守好后路。现在第114师团就位，他感觉到后勤无忧这才放手大步前进！
事实证明，正是矶谷廉介师团长的这个谨慎，使得保安军扩大了战果，几乎将整个114师团也一网兜了进来！
就在台儿庄防御战打响的前一天，日军发动了对枣庄的进攻。日军派遣军司令部临时航空兵团兵团长德川好敏中将集中了手中两个飞行团500余架飞机全力支援作战。杨大龙也不敢怠慢，给空军副司令李想下了死命令，空军必须确保空中安全，否则，就等着上军事法庭。李想也知道事情的严肃性，组织手下空七、空八两个师900余架飞机轮班巡航，一刻也不敢懈怠。
从作战开始，中日两国空军几乎每一天都要上演上百架次的大规模空战，有时一天能有几次、十几次的空中搏杀。每天损失的战机打到了令人咂舌的百余架。不过，保安军空军依靠先进的战机和将近一倍的数量，牢牢地控制住了空中优势。顺手还对日军陆军展开了几次轰炸。杨大龙很满意空军的得力，几次请李想喝酒，上报空军第一功！
枣庄城下两军厮杀不休。保安军依托战防工事和压倒优势的炮火给进攻日军以重创。双方阵前拉锯，反复展开短促突击，攻防转换。保安军坚决贯彻依靠坚固工事杀伤日军有生力量的原则消耗日军，就算是出击也是见好就收，弄得日军简直就是欲罢不能。矶谷廉介接连换上手上的几个联队轮番进攻，保安军第三军也是轮换着三个师守卫。一直打了四天，第10师团伤亡过半，弹药消耗一空。此时，矶谷廉介才感觉到对手似乎打得相当轻松，自己处境有些不妙！不过，派遣军司令部却屡屡告知第5师团即将拿下台儿庄，一天几遍命令催促他加紧攻击，早日与坂垣征四郎中将会师徐州。
本来杨大龙还要在将这阵地战坚持几日，等日军换上114师团再消耗一些才动手。可台儿庄这边却是一日几警的哭叫不已。日军第5师团一边对付庞炳勋、张自忠的骚扰，一边猛攻台儿庄。好在台儿庄全古城全是青石砌墙，城内建筑也是坚固的砖石结构，很是耐轰。所以面对日军的重炮，守军伤亡要少上许多。但饶是如此，日军还是三天之内就攻下了半个城，两军在城内战线犬牙交错，相互攻击不息。孙连仲打得异常坚强，咬牙逐屋逐巷和日军反复争夺。
鉴于此战况，为了确保台儿庄不失，杨大龙下令收网决战！
