这是冈村宁次在山东防线上部署的最后一道屏障。第39师团在泰安一线修筑了多层防线，利用泰山余脉的丘陵地形组织了纵深防御。
泰安的攻防战从6月10日持续到6月28日。这是山东战役中最激烈的一战。
日军第39师团在泰安外围设置了多道防线，每道防线之间用战壕和反坦克壕沟连接，丘陵上的火力点互相支援。
第100军在外围阵地上和日军拉锯了将近两周，每天都有炮战和步兵交锋，阵地上的泥土被反复炸翻了好几遍。
第100军军长张柏亭在外围阵地上亲自查看泰安的城防。他用望远镜反复观察日军防线的火力布局，发现日军在泰安外围的第一道防线和第二道防线之间有一个火力衔接的盲区。
两道防线在泰山西麓的一处陡坡处无法形成有效的火力覆盖，因为陡坡的坡度太大，机枪碉堡的射击孔无法覆盖坡面下方。张柏亭把突破口选在了这里。
他命令一个团在正面佯攻日军的防线，同时命令另外两个团利用夜色从陡坡方向悄悄摸上去，在日军两道防线之间的结合部撕开了一个缺口。
6月20日，泰安外围阵地被突破。日军退入泰安城内，利用城墙和城内建筑组织巷战。
巷战持续了八天，双方进行了逐街逐屋的争夺。第100军的士兵们用冲锋枪和手榴弹一个院子一个院子地往前推。
第100军的一个连长在带着一排人冲进一条胡同的时候被日军狙击手击中了脖子，倒下去的时候手里的冲锋枪还在响。一排长接过了指挥，带着剩下的人继续往前打，用手榴弹清理了狙击手所在的建筑。
经过几天的战斗，国军陆续清理了城内的
6月28日，泰安被攻克。日军守军约三千人全军覆没，国军也付出了伤亡两千余人的代价。
泰安失守的消息传到济南时，济南城内的气氛已经开始瓦解。济南的日军守军是一个二线守备大队加上两个独立混成旅团的残部，总兵力不到五千人。
守城的日军大队长在泰安失守的当天晚上就召开了紧急会议。他在会上说，泰安丢了，济南已经守不住了，苏杭的主力部队最迟一周之内就会打到济南城下。
他决定执行方面军司令部的命令，在撤离之前破坏城内的军用设施和交通枢纽，然后向天津方向撤退。
7月3日夜间，济南日军开始撤退。他们在撤离前炸毁了济南火车站和津浦铁路的黄河大桥，烧掉了油料库和弹药库。大火在济南城里烧了一整夜，黑烟升起来，在夜空中翻滚。
第73军的先头部队在7月5日清晨抵达济南城郊。他们看到了还在燃烧的火车站和已经被炸断的黄河大桥。
第73军军长卢醒站在城外的高地上看着济南城里的浓烟，沉默了好一会儿，然后告诉通讯兵向指挥部报告，济南日军已经撤离，城内军用设施被破坏严重，第73军正在进入济南城。
济南被拿下之后，山东日军的防线彻底瓦解。第73军继续向胶东方向推进，7月15日收复潍坊，7月22日进抵烟台外围。第100军从泰安出发向鲁中推进，曲阜、兖州等县城在7月中旬先后被收复。
烟台是山东半岛北部的重要港口，日军在这里驻有一个联队的守军和一批海军后勤人员。
但到了7月下旬，烟台日军已经接到了撤退命令，正在紧急征用民用船只，试图将胶东半岛的日军残部和部分侨民运往朝鲜半岛。
但是由于船只严重不足，港口秩序混乱，日军士兵和侨民在码头上挤成一团，争抢着登船的位置，大量的军用物资和装备被遗弃在码头上，无人看管。
7月28日，第73军的先头部队攻入烟台。日军在港口区的抵抗持续了不到半天就被瓦解了。
码头上堆积如山的物资，粮食、被服、医疗用品和一批尚未开封的步枪弹药全部被国军缴获。
7月30日，威海也被收复。到7月底，山东大部已被国军控制，日军在山东只剩下青岛一个孤立的据点。
山东战役打到七月底的时候，苏杭已经在考虑河北收官的问题了。
七月的华北平原热得像个蒸笼，指挥部里的炭火盆早就撤了，取而代之的是两架从日军仓库里缴获的电风扇。
电风扇嗡嗡地转着，吹得桌上的地图边角不停地翻卷。苏杭用一块镇纸压住地图，另一只手拿着铅笔，在保定和沧州的位置上各画了一个圈。
魏勇从通讯室出来，手里拿着一份刚译出的电文。他走到苏杭身边，把电文放在桌上，电文上面说情报处截获了冈村宁次发给大本营的电报，内容破译了大半，对方在请求批准华北方面军从保定和沧州撤退，将兵力集中到平津一线。电报里有一句话——继续分散兵力据守外围据点已无军事意义，徒然增加损失。
苏杭接过电文看了一遍，然后把电文放下。
放弃了这两座城就等于放弃了华北最后的纵深，一个指挥官做出这种决定，说明他已经不打算在华北继续打下去了。
苏杭分析，天津港是冈村宁次唯一的撤退路线。把保定和沧州的兵力抽回去，集中到天津港周边，用最后一点油料和弹药扛住进攻，争取时间把部队从海上运走。
苏杭转身对参谋处下达了命令，让第71军和第73军准备向保定和沧州方向推进，第87师负责保定方向，第100军负责沧州方向。
察南战役和山东战役的连续失利，使日军在河北的防线被压缩到了保定—沧州—天津—北平这一条狭窄的弧形地带。
这条弧形防线在地图上看像一轮残月，两端被国军死死钳住，中间勉强连着天津港。
防线的纵深最宽处不过八十公里，最窄处，也就是沧州到天津之间——只有不到五十公里。