8月28日，郭洪涛率南下部队北返，到达山东沂水县岸堤(今属山东省沂南县)，与林浩、廖容标所率部队会合。9月，边区省委在岸堤召开会议，研究开辟山东沂蒙山区抗日根据地问题，进一步确定在山东沂蒙山区建立根据地的方针。

为开辟山东省鲁中及山东沂蒙抗日根据地，边区省委继调廖容标、姚仲明率领的第三支队1个团到山东沂蒙后，又调第三支队第八团来此。10月，第八团和廖容标、姚仲明部合编为第四支队第四团。11月，八路军山东鲁东抗日游击队第八支队全军4000多人分批南下，陆续到达沂、鲁山区。之后，进入山东沂水县东北部、山东安丘西南部地带。

为创造经验，指导山东全省的建党建政工作，边区省委直接领导了山东鲁中各县的工作，派出大批干部到山东省的沂水、蒙阴、临费边等县任职。在岸堤，边区省委直接领导了山东沂水第九区区委及区民主政府、动委会。在边区省委的直接领导下，山东沂水、山东 蒙阴等县先后成立了抗日群众团体。

11月间，黎玉、张经武率领160名干部从延安来到岸堤。12月27日，山东八路军各游击支队的统一指挥机关--八路军山东纵队在山东沂水县王庄成立；苏鲁豫皖边区省委改称中共山东分局。到1938年底，山东鲁中区先后建立健全了蒙阴、沂水、费县、新泰、莱芜、博山、淄川、临费、泗水、安丘、临朐等县党的组织，所辖地区的区委、村支部以及农救会、青救会、妇救会、自卫团、儿童团等群众抗日团体也相继建立。这表明，山东鲁中抗日根据地已具雏形。

1939年2月， 国民党山东省主席沈鸿烈在山东鲁村召开山东全省军政会议，提出四条反动措施。此后，以沈鸿烈为首的国民党地方顽固派伙同国民党军队中的顽固分子缪?流等，继续策划 限制共产党的办法，不断制造摩擦，破坏抗日统一战线。与此同时，日本侵略军逐渐加强了对其占领区的控制。山东沂蒙抗日根据地和山东全省各地一样，出现了敌、我、顽 “三角斗争”的局面。从同年6月日军对山东沂蒙山区进行第一次大“扫荡”起，山东沂蒙军民的抗日斗争进入艰苦阶段。

抗战初期， 各地抗日武装建立后， 未能迅速在抗日游击队控制的地区广泛建立抗日民主政权。1939年6月初，中共山东分局接受过去忽视政权建设的教训，派出一批干部到各地组建县、区、乡抗日民主政权。

针对日军第一次对沂蒙大“扫荡”、国民党地方政权纷纷垮台的有利时机，山东分局于7月1日下达了《关于恢复县区乡政权之指示》，要求在原政权机构被破坏地区，均要创建共产党领导的政权机构；县界应以地形及战争需要重新划分，不受旧行政县界限制。不久，鲁中区先后成立了淄川、莱芜、博山、沂水等县抗日民主政府。7月下旬，中共山东分局第一区党委(习称大鲁南区党委)在沂临边的青驼寺成立，同时成立了八路军山东第一军区(对外称山东纵队后方司令部)。

进入1940年，沂蒙抗日根据地政权建设进展加快。2月16日，费县抗日民主政府成立。3月，临费县委建立；沂（水）、蒙(阴)、临(朐)、益（都）四县宪政促进会和沂水县参议会成立。6月10日，中共费北县委和费北行署成立；临(沂)费沂边联工委成立。7月11日，蒙阴县抗日民主政府成立。7月26日至8月26日，山东省各界人民代表联合大会在青驼寺召开，选举成立了全省统一的权力机关--山东省战时工作推行委员会(简称战工会)。战工会和各级民主政权的建立，标志着山东抗日根据地正式形成。

10月，鲁中区党委成立。次年2月，建立了沂蒙地委、沂蒙专署，辖沂水、蒙阴、沂南、沂临边、费东5个县。沂蒙行政区划正式确立。

1939年、1940年，日军对沂蒙抗日根据地进行了25次大“扫荡”，其中万人以上“扫荡”有两次。国民党顽固派秦启荣、吴化文配合日军，对根据地实行军事进攻和经济封锁，沂蒙抗日根据地一度被压缩在方圆几十里的狭小地带。

1941年1月6日，国民党制造了“皖南事变”，将第二次反共高潮推向顶点。从3月起，日本侵略军先后推行5次“治安强化运动”，山东各抗日根据地出现严重困难局面。在11月间日军5万多人对沂蒙根据地大“扫荡”中，省战工会副主任兼秘书长陈明、山东纵队宣传部长刘子超、鲁中军区司令员刘海涛、鲁中区党委社会部长朱毓淦、省妇救会常委陈若克、国际友人汉斯·希伯等壮烈牺牲；沂蒙青壮年被掳者近万人，民众被杀害达3500余人，房屋被烧毁占全区民房的四分之一。加上连续的旱灾、虫灾、农业严重歉收，致使根据地缩小，人民生活极端困难。但沂蒙人民在反“扫荡”中，英勇顽强，无私奉献，涌现出许多可歌可泣的事迹：沂南县鲁山后、艾山后等5个村的群众，冒着生命危险分散掩护了八路军1300余名伤病员；沂水县桃棵子村妇女祖玉兰，将昏迷在该村南大顶子山的八路军战士郭伍士救到家中精心护理、治疗，使身负7处伤的郭伍士伤愈重返部队，后被誉为“红嫂”；沂南县李家林村妇女明德英，用乳汁救活受重伤的八路军战士，后亦被誉为“红嫂”；沂南县东辛庄的王换于大娘，精心护理全身80%被敌人烙伤的《大众日报》社的白铁华，使其得以活了下来，被誉为“革命母亲”。

1942年春刘少奇来山东指导工作后，沂蒙根据地开展了减租减息运动；实行了精兵简政；进行了巩固党的工作，培养发展了近万名党员；进行了整风学习，提高了干部的马克思主义水平。从而粉碎了敌人的“清剿”、“蚕食”，巩固了抗日根据地。到1942年下半年，沂蒙地区又先后建立了沂北、沂东等县委或工委。

1943年春，沂蒙地区实行了党的“一元化”领导，认真贯彻中共中央关于抗日根据地的“十大政策”，全面开展了大生产运动，使根据地逐渐恢复并获得新的发展。7月于学忠部离鲁后，八路军控制了沂山、鲁山及滨海区诸(城)、莒(县)、日(照)一带山区防地。9月，击退了国民党第二十八集团军李仙洲部的进犯，并连克蒙阴垛庄、沂水涝坡等日伪据点，巩固、扩大了根据地。从秋季开始，整个山东抗日根据地渡过了严重困难阶段，进入恢复和再发展时期。

1944年1月，沂蒙抗日根据地继续开展了减租减息和大生产运动。2月25日，鲁中区党委决定以发展生产为工作中心，掀起了春耕生产热潮。随着国际反法西斯战争节节胜利，3月25日，鲁中军区发起第三次讨伐吴化文战役。这次讨吴，标志着山东战场局部反攻的开始。战役结束后，解放国土2980多平方公里，攻克重要据点49处、炮楼100多个、山寨52处，使鲁中军区完全控制了鲁山山区，打通了沂、鲁、泰、蒙各山区的联系，为之后的反攻夺取了有利的前进阵地。从6月开始，沂蒙根据地军民发起了夏季军事政治攻势。6月中旬，鲁中军区第二团攻克蒙阴县桃墟敌据点，歼伪军1个大队；第二、三军分区分别攻克蒙阴县刘官庄、住佛敌据点，基本粉碎了敌经营多年的环绕蒙山的封锁线。8月17日，攻克沂水城，毙伤俘日伪军1000多人。继之，鲁中部队于9月上旬进行了葛庄伏击战，共毙

伤日军中队长以下300多人，俘31人；毙伤伪军1000多人，俘伪军367人。

1945年1月，沂蒙各县认真贯彻鲁中区党委《关于开展拥军参军运动的指示》。开展大规模的群众性拥军参军运动，各县加入主力部队和地方武装的青年达8111人；在开展的英模评比中，被评为鲁中区劳动英雄、劳动模范有朱富胜等119人。3月9日，蒙阴城解放，使泰山、泰南、沂蒙根据地连成一片。6月夏季攻势中，鲁中部队对盘踞在安丘、昌乐一带的伪鲁东和平建国军厉文礼部和盘踞在诸城的伪山东国民自卫军张步云部发起攻势，共攻克日伪据点66处，解放国土1700平方公里。7月13日，鲁中行署成立，辖泰山、沂蒙、泰南、沂山、鲁山5个专署。沂蒙专署辖沂南、沂东、沂临、费东、蒙阴、沂中6个县。7月17日，鲁中部队发起临(沂)费(县)边战役，攻克诸满、上冶敌伪据点。8月7日，解放费县城。8月6日至13日，沂蒙军分区部队攻克白沙埠据点，为解放临沂城扫除了障碍。

在8年抗日战争中，沂蒙军民计作战4万余次，毙伤俘日伪军25万人，缴获各种枪支20余万支、炮500余门及大量军用物资；主力部队和地方武装从无到有，从小到大，发展正规军10万余人，民兵30多万人，自卫团70多万人；沂蒙军民付出了巨大牺牲，主力部队、地方武装、党政群机关人员伤亡11万多人(其中牺牲4万余)；人民群众被杀害或迫害致死的有20多万人，伤残60余万人，被抓走的有40余万人；房屋等财产损失无法计算。

抗日战争胜利后，山东军区抽调滨海军区主力部队、山东军区特务团、沂蒙军分区十一团等向临沂城守敌发动进攻，经26天激战，于9月11日攻克临沂，使鲁中、鲁南、滨海3个战略区连成一片。

根 据形势发展的需要，沂蒙抗日根据地的行政区划和领导机关进行了调整。泰南、鲁山地委和专署撤销，原分属上述地区的新泰、泰宁和沂源县划归沂蒙；原沂蒙的费 东与泰南的费北两县合并，成立蒙山县，划归沂蒙地区；沂临边县撤销，辖区分别划归沂南、沂东、临沂县。沂蒙专署辖沂源、沂中、沂南、沂东、蒙阴、蒙山、新 泰、泰宁8个县。在中共沂蒙地委和沂蒙专署的领导下，掀起了反奸诉苦、减租减息的群众运动。广大翻身农民积极参军，有2.5万名青年加入主力部队。

1946年5月4日，中共中央发出《关于清算减息及土地问题的指示》后，沂蒙各地进行了轰轰烈烈的土地改革。6月下旬，全面内战开始。国民党军队在向解放区全面进攻遭到失败后，于1947年3月改为对陕北和山东实行“重点进攻”。华东野战军在陈毅、粟裕等率领下，在沂蒙山区先后进行了莱芜、孟良崮等重大战役，沉重地打击了敌人。在战争中，沂蒙人民踊跃参军参战，积极支援前线。仅鲁南、莱芜、孟良崮战役中，支前民兵、民工就达100多万人次。在支前工作中，蒙阴县野店区烟庄村妇女张玉梅、伊廷珍、杨桂英、伊树英、姬贞兰、公方莲6人，挑起了全村支前拥军的重任，她们组织妇女在两天内加工5000斤粮食的煎饼，送往前线；为部队当向导、运弹药、洗军衣、做军鞋，成为著名的“沂蒙六姐妹”。

1948年春，沂蒙地区灾荒严重。各级党政领导执行上级以生产救灾为中心的指示，咬紧牙关，渡过艰苦岁月。通过进行剿匪反霸，开展整党整军，深入土地改革，各项工作得到迅速发展。7月， 鲁中、鲁南、滨海区合并为鲁中南区。沂蒙地委改为鲁中南区第二地委。此后，沂蒙人民全力支援济南、淮海、渡江等战役，并组织大批干部南下云南、贵州、河 南、浙江、湖北等省，支援新解放区的开辟与发展。同时，在全区继续开展了生产救灾，医治战争创伤，使解放区各项事业欣欣向荣。

1949年7月，沂东县撤销，辖区划归沂中、沂南县。8月，沂北县和莒沂县合并为莒沂县，沂中县改称沂水县，新泰、泰宁两县划归泰山区。此时，鲁中南区二地委辖沂水、沂南、沂源、蒙阴、蒙山、莒沂6个县。沂蒙人民克服重重困难，以无私奉献的革命精神，为新中国的诞生，做出了重大贡献。