等日本人三路人马在胶济路集结，与青岛守军会合之后，迅速脱离敌阵，撤往胶东，在上昆嵛山展开游击战。
7月2日，即田边盛武从北平回日本的那一天，陈天民下了进攻连云港的命令，要刘力统率主力七旅和鲁西警备队，要他们在当天晚上迅速出击，占领连云港。率主力向鬼子在陇海路上的防线发起进攻，以歼灭从徐州而来的日本援兵。
留在日军南线的是第106师团和第114师团。其中，116师负责从连云港到邳县的防御工作，。第2师以陇海路为依托，构筑了三道防御线，以阻击山东八路军向南突围。
因为日本人屡次受挫，特别是济南城八路军大展神威，鬼子各军人心惶惶，戒备森严。尤其是第116师团师团长清水众，他既熟悉战术，又有带兵打仗的经验，他目瞪口呆地看着八路军特别独立加强师的每一个动作。
虽然战报上说日军主力部队已经将八路军逼到了胶东，但是老鬼子清水众心里很清楚，在鲁南一带，还有一支八路军正在和日军主力部队周旋，谁也不知道这支八路军会不会突然杀到自己
116师团跟前来个突然袭击。
于是，他按照田边盛武的吩咐，以陇海铁路为依托，构筑了一道又一道的防线，摆出了向北推进的姿态。
其中，东海县驻扎着第111旅团，清水众中将将自己的总部设在邳县和东海之间的新安古城指挥着炮兵、骑兵和工程兵，随时准备支援。连云港港驻扎着第119旅团的一个步兵团，负责守卫港口。
不过就算是这样，第116师团和第106师团也要负责给多田安郎他们运送物资，因此他们需要派人去保护那些交通要道。
因此第116师团的辎重队，除了留下一队驻守连云港，负责国内运来的补给之外，另两个大队负责从连云港运送多田安郎集团运往徐州的辎重，其中一队由106师团运到兖州，另一队则由兖州的104师团转运到泰安。
尽管此时日军已经在青岛集结完毕，但是多田安郎的南线部队隶属于华中方面军，大量的物资需要从华中地区调拨过来，因此后勤工作还是十分繁重的。
清水众知道八路军最擅长的就是伪装成日军，所以他制定了一套应对八路军袭击的计
划，他命令属下每天三次汇报八路军的动向，就连小规模的行动，也要经过他的同意。
每天都要更换口令，甚至还用军犬来警告，提前做好准备。各单位一旦发现非本单位之人，或口令有异即开火，严禁接近阵地或岗哨。
不仅如此，清水众老鬼子还要求各部加强反伏击作战训练，甚至把火力点也设在明处和暗处，企图用这种方法来对付八路军的假扮伏击。
陈天民虽不知清水众所采取的防范措施，但从侦查人员反馈来的情报来看，日本人警惕性极高，不能近距离观察。