1938年，参加鲁南大会战、台儿庄战役。

1939年，参加鄂北战役。

1942年底，奉命以周家口警卫团与一些地方部队合并，组建新编第二十九师，任师长。

1943年夏，新编第二十九师开赴新郑整训。整训完毕，奉命担任中牟一带黄河河防。同年11月，新编第二十九师归属第二十八集团军暂编第十五军建制。

1944年，郑州沦陷后，许昌成为第一战区前沿阵地。吕公良主动向第一战区副司令长官汤恩伯请缨抗战，誓与许昌共存亡。3月下旬，第一战区司令长官部奉蒋介石手令，派暂编第十五军新编第二十九师固守许昌。全师官兵3000余人，被称为“国军中装备最差的部队”。部队进驻许昌后，全师官兵立即投入紧张的备战工作。许昌防卫统由新编第二十九师师长兼许昌城防司令吕公良指挥。为唤起民众抗日热情，吕公良以许昌城防司令名义，主持召开许昌各界人士参加的军民誓师大会。会后，处决了3名汉奸，以示抗日决心。

4月，侵华日军六个师团和战车第三师团、第五航空军等计16万兵力，根据“一号作战计划”，发动以打通平汉铁路南段，消灭汤恩伯部主力为目的的“河南会战”（又称“豫中会战”）。

19日，吕公良夫人方莲君带着儿女来到许昌。吕公良忙于备战，只派副官接待。次日清晨，方莲君离开许昌时，吕公良才与妻儿匆匆见了一面。晚上，吕公良给妻子写了一封信，信中称：“我已充分准备，打仗是军人的本分……恐怕此信到时，我已在与敌人拼命了……当军人不打仗还有何用？”

23日下午5时许，日军第三十七师团第二二六联队第二大队配属无线电分队进攻长葛和尚桥，守军新编第二十九师第八十六团奋起抵抗，双方激战至第二天凌晨2时，中国军队被迫撤退，第八十六团团长姚俊明（陕西人，西北讲武堂毕业）重伤失踪。

26日，日军完成对许昌的铁壁合围后，日军第十二军司令官内山英太郎在新郑召集部队长会议，下达进攻许昌的命令，进攻时间为4月30日。

30日早晨6时，日军第三十七师团师团长长野祐一郎综合各方面情报，断定中国军队要固守许昌城，便立即命令部队向许昌发起进攻，悲壮的许昌战役由此打响。

新编第二十九师各部在团营连军官带领下，利用残破的寨垣、新修的工事和寨外埋设的地雷群，居高临下沉着应战，打退日军数次进攻。由于屡攻不下，日军使用毒气配合作战。经过逐村逐阵地阻击，双方展开激烈的手榴弹战，战斗形成胶着状态，在拼杀中，新编第二十九师官兵大多战死在阵地上。

城外的战斗使日军感到，许昌不是一举就可以攻下的，新编第二十九师也不是一触即溃的。日军将第五航空军由12架轰炸机组成的编队投入战斗，并调遣战车第三师团栗栖支队协助攻城。

师长吕公良将军亲自坐镇南门指挥战斗，在南门连续打退日军六次冲锋，双方伤亡惨重。日军飞机对西门、南门进行低空轰炸，同时，炮兵也集中火力猛攻新编第二十九师坚守的城墙，但官兵依然英勇还击，寸土不让。第八十七团第二营营长手提大刀，率领官兵与日军展开激烈的白刃战。最后，全营官兵伤亡殆尽，西门遂被攻破。

日军在攻击西门的同时，又调来坦克部队猛攻南门。南门守军在乔冠英营长率领下，与跟随坦克进城的日军一个中队展开激烈的白刃战。乔营长手提大刀，连续砍死日军多名。李培芹团长听说南门失守，带领士兵打了一个反冲锋，然后和敌人展开逐屋逐街争夺。黄永淮副师长侄子黄正道时年22岁，是新编第二十九师最年轻的连长，也在战斗中壮烈牺牲。日军北门攻击队攻占俎庄之后，陷入了北门布满地雷的雷区，伤亡不断增加。同时又遭守军坚决阻击，直至5月1日凌晨2时，北门才被日军攻破。

经过一天的战斗，新编第二十九师官兵伤亡惨重，许昌沦陷在即。晚上10时，在报请上级批准同意后，吕公良宣布部队分两路突围，指定集合地点为郾城黑龙潭。突围前，吕公良为保持守城官兵名节，含泪焚烧师旗。当时，吕公良身着整洁黄呢将军服，在队伍中十分显眼，部下苦劝他更换便衣设法逃出，但吕公良凛然正色道：“我身为堂堂中国军人，沙场捐躯，虽死犹荣，岂能丧失民族气节为人耻笑。”

突围中，两名团长杨尚武、李培芹相继阵亡，吕公良师长、黄永淮副师长后来也都负伤。天大亮后，日军出动大批步兵、骑兵、炮兵及洋车队包围突围部队。黄副师长不幸被俘。敌人将黄永淮押到于庄，他看到日军正在用惨无人道的方法杀害中国军队战俘后，十分恼怒，乘日军不备时，猛地夺过一支枪击毙一个鬼子，随即饮弹自戕，为国捐躯。

吕公良显眼的着装，引起日军注意，他们疯狂地对吕公良进行攻击。吕公良连中数弹，流血不止，倒在麦地中。吕公良把两个警卫员叫到身边说：“我不行了，你俩走！我们三个不能都死在这里，活着出去也有个报仇送信的人，快走！”连催几遍，二位警卫员含泪离开师长。吕公良把另一个尸体压在自己身上，躺在那里听天由命。

后来，吕公良被当地村民发现，悄悄找人将吕公良抬回村隐藏起来。这时，吕公良奄奄一息，由于伤势过重又缺医少药，第二天，被日军视为中国军队“抗战派的中坚干部”的吕公良停止了呼吸，年仅41岁。

吕公良主张官兵同甘共苦。在军需困难的情况下，官兵一律穿草鞋。多年的军旅生活使他养成注重军容军纪的好习惯。大热天上衣扣总是扣得整整齐齐，寒冬腊月也从不把手伸进裤袋中取暖，他认为军风军纪不好的部队打不好仗。

吕公良在进衢州师范之前，就与同乡王笙玉结婚。吕公良是当地第一个带头剪掉辫子的青年，王笙玉是带头放开小脚的女人。据吕公良的长子吕行健（中国现代国际关系研究所原教授、研究员）回忆，其父母在家乡生下五个子女，大妹从小就送人抚养。一个姐姐和弟弟不幸夭折。只有他和小妹吕荷雨随母亲在外公家生活，父亲则在部队忙于军务。

1931年，吕公良的父亲去世时，吕公良也未能回乡奔丧。1934年，回家乡时写下“忠孝不能双全”的诗句。

在吕公良的戎马生涯中，他对家乡念念不忘。一有机会，就会回乡看看，但回乡时从不穿军装。他见到父老乡亲和同窗好友总是喜笑颜开，平易近人。他先后把邹谷之、程炳然、孙浩等人从开化带到部队历练。当时，他还多方奔走，积极营救衢县第八中学时的同窗好友孔昭霖、周之挺两位地下党员，并把他们引荐到部队。

1938年秋，吕公良回家乡探亲，正值华埠镇抗日后援会在华埠修建的“七七纪念亭”落成，他应邀为该亭题了两副楹联：“国耻恨重重，拼焦土飞烟不辞一死；亭名思七七，问银河洗甲更待何年。”“风景不殊，漫话临安往事；国仇未报，记取勾践当年。”并题写了“抗敌阵亡将士纪念碑”碑名。

1940年以后，吕公良任河南周口警备司令。在周口，吕公良还为当地群众修建一处文化娱乐场所和一座大礼堂，并亲自为大礼堂题写堂名。他在界首、周口两地为人处事深受当地军民好评。

吕公良投笔从戎后南征北战，无人照料饮食起居，经汤恩伯夫人介绍后，与她的学生方莲君结婚。大夫人王笙玉在家乡操持吕家里外，无法随夫照料，同意丈夫再娶少夫人伴随照料。他们回家省亲时，大小夫人以姐妹相称，和睦相处、亲密无间。

在吕公良次子吕行素的眼中，吕公良虽然没给家人留下一间房、一寸土，但却留下宝贵的精神财富。1942年，华埠被日军侵犯，商铺、民房被烧成一片焦土，吕家也成一片瓦砾。吕公良得知家乡受灾后，国耻家仇让他愤慨万分。随后，他拜托随军的同乡邹谷之和程炳然长途跋涉回家乡探亲，接济家中生活，并带去了安慰父老乡亲的话：“留得青山在，不怕没柴烧。”这青山，指的便是国家和乡土。

许昌战役中，涌现了师长吕公良、副师长黄永淮、团长杨尚武和李培芹四位抗日殉国将领。新编第二十九师3000余名官兵除少数成功突围外，大部阵亡。此战之惨烈程度，连日酋内山英太郎都为之感慨，其曾在日记中这样写道：“5月1日，许昌城内的扫荡于上午结束。今晨攻占东北角后，由该处出逃的部分部队，6时20许在于庄被工兵第二十七联队小野部队围歼。由缴获名片中，得悉该部为包括新编第二十九师师长吕公良中将在内的司令部。因战时匆忙，未能郑重掩埋敌将遗体，并树立标志，身为武士，不胜惭愧。”以浙江开化人吕公良将军为代表的爱国军人，为国家民族利益，不畏强敌，用他们的热血和生命谱写了一曲惊天地、泣鬼神的壮歌，必将在中华大地上万古流芳，感召后人。

1944年10月20日，国民政府发布命令，追赠吕公良为陆军上将，黄永淮、杨尚武、李培芹为陆军少将。

1946年，吕公良妻子方莲君携儿女，护送将军忠骨迁至浙江杭州西湖安葬。

1986年，经国民革命军起义将领刘昌义提议，老一代无产阶级革命家刘澜涛、杨静仁批示，吕公良被民政部追认为革命烈士。

2004年4月1日，值烈士殉国60周年之际，其家乡浙江开化县修建了一座吕公良烈士陵园，作为爱国主义教育基地。

2014年9月，吕公良将军入选第一批著名抗日英烈和英雄群体名录。