1927年4月，蒋介石叛变革命，在上海发动“四一二”政变，疯狂逮捕共产党员和革命群众。为躲避敌人的搜捕，他出走东北，辗转到朝鲜仁川，在那里与原在朝鲜的中国同志组建了中华劳动组合会，积极开展抗日活动。

1933年7月，马保三由东北回到寿光，不久因叛徒出卖而被捕。开始被关在县城监狱，不久被解往济南，关押在伪省府监狱。在那里敌人对他严刑拷打，但他坚贞不屈，严守党的机密，保持了一个共产党员的高尚气节。1934年春，通过党组织营救，加上敌人无可靠证据，马保三被保释出狱。

马保三出狱后，因当时寿光党组织遭到严重破坏，一时没有接上组织关系，但他仍同过去一样，积极领导群众进行革命斗争。期间，他深入调查，了解到湖东乡乡长马秉修欺压百姓，把全乡筑墙、修路、架桥等收来的款项用以肥己的事实，便以此为突破口，走门串户，发动群众，揭露伪乡长的罪行。1934年底，他带领群众千余人突然包围乡公所，通过查账，搞清了马秉修的贪污行为，强烈要求撤销马秉修的乡长职务。县长宋宪章感到众怒难犯，只好撤销马秉修的乡长职务，并令其交出赃款，答应群众推荐马保三担任湖东乡乡长的要求。反霸斗争胜利后，恶霸地主垂头丧气，贫苦农民扬眉吐气。经过这场斗争，马保三的群众声望更高了。

1937年“卢沟桥事变”后，在中共寿光县委领导下，全县掀起了抗日救亡运动。马保三以湖东乡乡长的合法身份，搜集枪支，举办抗日民众训练班，积极投入组织抗日武装的准备工作。他利用集市等群众集体场合，宣传党的抗日主张，揭露日寇的烧杀抢掠暴行，号召大家积极参加抗日武装，奋力抗击日寇，拯救民族于危难之际，一时群情激奋，应者云集。为组织抗日武装，一个多月的时间，他跑了8个乡，串了几十个村庄，组织了七八十人的队伍，为后来的武装起义培养了骨干，打下了基础。

1937年11月，中共寿光县委在马保三家召开了县委扩大会议。会议传达了省委关于分地区发动武装起义的指示，决定以牛头镇为起义中心，起义后部队番号为“国民革命军第八路军鲁东抗日游击队第八支队”，马保三被推举为总指挥和八支队军政委员会成员。12月29日，各地游击队员陆续到牛头镇集结，在乡公所门前竖起“国民革命军第八路军鲁东游击队第八支队”的大旗，八支队总指挥马保三宣布八支队正式成立，宣读《八支队成立宣言》；八支队军政委员会主席张文通宣读《告全国同胞书》。誓师大会后，游击队员进行了编队，支队共计700余人，编为一、三、五、七和特务队共五个中队。牛头镇起义后，八支队军政委员会将八支队成立的消息报告了民国县政府，同时指出应精诚团结，共赴国难。牛头镇起义后，八支队在牛头镇进行了集中整训。整训一开始，马保三就打开自家的粮仓，腾出自家的房子，让战士们食宿。他说：“先吃完我家的，然后再吃大伙的。”他全家老小整天磨面、做饭，全力为部队服务，被指战员亲切地誉为“八支队的后勤部”。为鼓动参军，他率先垂范，带领子孙三代一起参军。在他的带动下，全县掀起了参军的高潮。

1938年1月，红军干部韩明柱、鲁东工委委员杨涤生来到牛头镇，加强了八支队的领导力量。马保三虚心向他们学习，与他们密切配合，相互协作，使这支新生的人民军队得到迅速成长壮大。2月5日，马保三、韩明柱亲自组织指挥的三里庄伏击战一举击毙日寇官兵3名，缴获汽车一辆及一批枪支弹药等军用物资，取得部队组建以来第一次对日作战的胜利。首战告捷，军威大振，群情沸腾。2月23日，发动三合庄战斗，收编67名伪军，由此声名鹊起。

1938年3月，鲁东工委决定，调八支队东去昌邑，与七支队会师，扩大武装，协同作战。马保三以大局为重，坚决服从决定，并在出发前为适应东进会师的需要，积极地对部队进行教育和整编。4月，八支队到达潍北与七支队合编，组成八路军鲁东游击队指挥部，统一指挥七、八支队，马保三任指挥，韩明柱任副指挥。合编后，应胶东特委邀请，马保三率部继续东进，帮助山东抗日救国军第三军开辟蓬（莱）黄（县）掖（县）地区抗日根据地。在马保三的指挥下，鲁东游击队与第三军一起，智取黄县城，解围黄山馆，收编龙口公安局和水上警察队，名声大振。部队很快发展到6000多人，钢枪5000多支。5月12日，在第八支队队部，马保三主持召开了第三军、第八支队和第三支队负责人联席会议。会议决定第三军、第八支队、第三支队组成抗日联军，由马保三任指挥，林一山任政治委员。同时决定成立前敌指挥部，韩明柱任指挥。会后，前敌指挥部率领鲁东游击队一部向掖县进发，攻克白沙，再夺夏丘堡，以解三支队之围，将掖县、黄县、蓬莱等县抗日根据地连成一片。

1938年7月，根据苏鲁豫皖边区省委指示，马保三率部回师邹（平）长（山）地区，与清河三支队并肩作战，巩固扩大清河地区抗日根据地。10月，鲁东游击队主动出击周村城日军，战果显著，创造了攻城范例。11月，在长山蒙家庄战斗中，韩明柱不幸壮烈牺牲。12月，马保三按照省委指示，率领部队越过胶济铁路挺进鲁中，参与创建沂蒙山区根据地。下旬，部队被改编为山东纵队第八支队，马保三任支队司令员。从此，在寿光大地上揭竿而起的八支队，成为驰骋鲁中抗日战场的正规八路军。

在八年的抗日战争中，八支队与日伪军作战200余次，计毙伤俘日伪军1万多人，为全民族的抗战建立了不朽的功勋。

1940年7月，在沂南青驼寺召开了全省各界人民代表会议，成立了山东省战时推行工作委员会，即山东省政府的前身，马保三被选为临时参议会副议长。从此，他离开多年的戎马生活，开始做地方工作。当时，省临时参议会代行省人民代表大会的职权。议长范铭枢是党外人士，年高多病，因此一些重要工作都由马保三主持。根据党的政策和解放区的实际情况，他领导着参议会的人员，制定了民主选举法、双减法、婚姻法、财经法，使各项工作做到有法可循。为建立巩固根据地，他亲自到基层帮助建立各级政权，选举县长、区长，并发动群众开展大生产运动，进行生产自救，从而粉碎了国民党的经济封锁，有力地支援了前线所需的作战物资。

1949年青岛解放后，马保三任青岛市市长。进入城市后，他牢记党的教导，艰苦朴素、廉洁奉公、严于律己，自觉抵制资产阶级糖衣炮弹的袭击。他生活十分俭朴，吃饭从不超过供应标准。秘书看到他的被单破了，要给他添件“太平洋”被单，他婉言谢绝了。离开青岛时，市委送给他两个皮箱、两个木箱，他告诉秘书说：“进青岛时带的什么，走时还带什么，多一件也不要。”随即要秘书把箱子送还市委。在他的教育和影响下，当时市政府的绝大多数干部能够做到艰苦朴素、公正无私，身居闹市而一尘不染。

1950年4月，马保三满载人民的盛誉离开青岛到省里工作，同年当选为山东省各界人民代表会议副主席。1955年当选为山东省政协副主席，1956年当选为中共山东省委委员、统战部部长，1958年当选为全国政协委员，1959年继续当选为山东省政协副主席，1963年继续当选为山东省委委员。

在省委工作的十几年，虽然年届古稀、疾病缠身，但他斗志不衰。那时他身兼数职，昼夜操劳，不论是土改、镇反、抗美援朝，还是三反、五反、社会主义改造，不论是全面的、大规模的社会主义建设，还是纠正左倾错误，他都积极地发动各界人士，投入火热的斗争，经受斗争的锻炼，为党的事业贡献着毕生的力量。同时，他勇于坚持原则，不计个人得失。特别在反右倾等问题上，他直言不讳、旗帜鲜明，曾承受着以右倾和“地方主义”批判的压力，顽强斗争，坚持原则，表现了一个共产党人无私无畏、光明磊落的革命品德。1964年2月15日，马保三积劳成疾，不幸病逝于济南，享年77岁。

国务院总理周恩来、最高人民法院院长谢觉哉发来唁电，中共山东省委和山东省人民政府为他成立了治丧委员会，召开了隆重的追悼大会。中共山东省委第一书记谭启龙，济南军区司令员杨德志，副司令员王建安、杨国夫等领导同志和山东省各界代表参加了追悼大会。会后，他的遗体安葬到济南英雄山革命烈士陵园最高层的第一排位置上。

马保三的一生，是革命的一生，战斗的一生。在青年时期嫉恶如仇，敢斗、善斗；在壮年时期杀敌报国，驰骋疆场；在老年时期，投身建国大业，呕心沥血，为党的事业贡献了毕生精力。他那不朽的功绩，将永垂青史，他那顽强的革命精神和崇高的革命品德，将永放光辉。