1937年7月抗日战争爆发后，林浩先后去淄川、博山、张店、青州等地传达省委关于组织抗日武装的指示，并帮助建立了中共鲁东工委和益都县委。在济南市，林浩与其他同志一起，发动群众，组织抗敌后援委员会，成立了文化、学生等各界救国会及中华民族解放先锋队等组织。开展募捐、抵制焚毁日货活动，支援国民党爱国将领傅作义在绥远抗战。但是林浩生活非常清贫，一顿饭仅是一块煎饼或一碗小米粥，有时连这样的饭也吃不上。

1937年10月，林浩担任中共山东省委副书记。

1938年1月，山东省委书记黎玉、副书记林浩领导了包括泰安、莱芜、泗水、宁阳、沂水及泰西大峰山地区的徂徕山起义，成立了山东人民抗日游击第四支队，开辟了以莱芜为中心的抗日根据地。林浩担任该支队政治部主任兼组织科科长，后兼任第四支队第四中队指导员。

2月中旬，代理省委书记兼任第四支队政委。

12月，任八路军山东纵队第四支队政治委员、中共山东省委组织部部长、中共鲁中区党委书记。

1939年7月，任中共山东一区(即大鲁南区，含津浦路以东、胶济路以南、陇海路以北地区)党委书记兼第一军区（即山东纵队后方司令部）政委，后兼任第一区军政委员会书记，卓有成效地领导了泰安、沂蒙地区抗日根据地的创建和巩固工作。

1940年上半年，林浩奉命到胶东工作，任胶东军区政治委员。9月底担任中共胶东区委书记兼胶东军政委员会书记，参与领导巩固和发展胶东抗日根据地的斗争。

1941年3月14日，许世友到达黄县的第二天，胶东区党委在黄县黄城阳村召开会议，成立了胶东反投降指挥部，许世友任指挥，林浩任政委。当时，山东省国民党第九区专员蔡晋康借日军“扫荡”我大泽山根据地之际，趁机占领了牙山地区。胶东反投降指挥部发起牙山战役，歼灭蔡晋康部1800余人，收复了牙山地区。接着，挥师南下海阳，围困投降派赵保原部据守的郭城、发城地区，迫敌退回顽底（或玩底，今万第）老巢。此次反投降作战历时近5个月，共歼灭国民党顽固派军队1.5万余人，把大小十几支顽军部队逐出胶东腹地，打通了我东海、西海两区的联系。

1942年7月1日胶东军区成立，林浩任政治委员，与许世友司令员、贾若瑜参谋长等率领胶东军区机关，留在胶济路东坚持敌后斗争。

7月初，日伪分南北两路企图夹击我军。胶东军区第五支队和山东纵队第五旅十五团在龙虎山一带，给敌人以迎头痛击，歼敌300余人。7月8日，日伪军3000余人又分别从几个据点出发，阴谋合击我军。山东军区第五旅十三团先后连续对多股敌人予以打击，使日伪军于15日分头撤回。至此，日伪军的夏季大“扫荡”宣告破产。

1942年冬季的大“扫荡”，是最残酷、最野蛮的一次“扫荡”。11月8日，日军华北方面军司令官冈村宁次飞到烟台，部署对胶东抗日根据地的“扫荡”。11月17日至12月底，日军1.5万人，伪军5000余人，在26艘军舰和10架飞机协同下，对胶东抗日根据地进行了历时40天的“拉网合围大扫荡”。在一个多月的反扫荡战斗中，全区军民共毙伤敌人2000余人，粉碎了日军在胶东发动的规模最大、时间最长的冬季大扫荡。

1945年2月11日至19日，胶东军区政治委员林浩、副司令员吴克华等，根据山东军区关于春季攻势作战的指示，集中了5个团又5个营的兵力，再次对山东伪军“剿共”第7路军司令赵保原部发起讨伐。时赵保原部盘踞在以顽底（万第）为中心的五龙河及大、小沽河中游地区，叛国求荣，破坏抗战，残害人民。玩底战役，胶东军区部队将胶东这股最大的伪军基本歼灭。

1945年8月15日，日本政府宣布无条件投降。许世友、林浩率领胶东军区部队，从8月16日开始，向胶东半岛拒不投降的日伪军发起大反攻，解放了威海、烟台、福山、牟平、招远、即墨等地，逼近青岛市郊。

烟台解放后，经林浩举荐，姚仲明于1946年出任烟台市长。烟台市委严格执行新民主主义政策，确立了“发展生产，繁荣经济，公私合作，劳资两利”的方针，促进了城市经济的发展。烟台经验成为毛泽东主席在中共七届二中全会上报告的素材。

抗日战争胜利后直至1948年初，林浩仍任胶东军区政治委员。

解放战争时期

在解放战争期间，林浩参与指挥和率部参加了胶济路东段自卫战、掖县沙河镇阻击战、胶东保卫战、莱芜、孟良崮战役、白马关阻击战和南麻、临朐、泰蒙等战役战斗。

1947年1月，胶东军区部队编为华东野战军九纵，林浩兼任纵队政委、党委书记。

同年2月，与王彬等指挥实施了掖县沙河镇阻击战，收复了掖县县城。之后，带第九纵参加了孟良崮战役、白马关阻击战和南麻、临朐战役。

8月，国民党9个整编师向胶东解放区进攻。胶东军区与十三纵组成前线指挥部，林浩任指挥部政委兼代司令员，先后发起了攻克莱阳夏格庄、孙受战斗。同时，按照中共中央“五四指示”和中共中央华东局“九一指示”精神，领导组织胶东地区的土改工作。

1948年1月1日至2月17日，饶漱石在五莲县大茅庄主持了胶东区土地会议。饶漱石采用康生1947年11月在渤海土地会议的做法，大肆批判所谓党内组织不纯、土改中的“富农路线”以及所谓“宗派主义”。时任胶东区党委书记、胶东军区政委的林浩及行署主任曹漫之等受到错误批判，都被撤职。

1949年6月，林浩调任中共中央华东局政策研究室研究员；同年秋，到中央马列主义学院学习。

中华人民共和国成立后

1951年下半年起，林浩前往南京军事学院工作，历任政治部教育部部长、宣传部副部长、训练部副部长，政治部副主任等职。随后担任高等军事学院政治部副主任、主任；1964年3月至1966年11月任该院副政治委员兼政治部主任。

1964年杨献珍被批判，邱会作向中央举报林浩等人请杨献珍到高等军事学院讲课，是为杨献珍提供反党讲坛。林浩因此被批斗数月并被停职。“文革”期间，林浩再次遭到残酷迫害。

1978年，邓小平采纳中共中央组织部部长胡耀邦的举荐，经中共中央决定，停职14年的林浩出任中国人民解放军政治学院院长，至1983年后退居二线。

1986年3月，中共中央第62号文件作出批复，同意山东省委1985年12月《关于黎玉、林浩同志申诉问题的复议报告》，撤销1948年华东局扩大会议《决议》中对黎玉、林浩同志所作的结论，恢复政治名誉。对所有受到批判及作过错误结论的当事人，都予以纠正。

林浩是中共十二大代表，第六届全国政协委员。1955年9月，林浩被授予少将军衔，并荣获一级独立自由勋章和一级解放勋章；1988年获一级红星功勋荣誉章。

1996年11月14日，林浩将军在北京病逝，享年80岁