1937年7月，抗日战争爆发。当时，李必蕃任第一战区国民革命军第一集团军(总司令宋哲元)第67军(军长吴克仁)第23师师长，率部由陕西临潼出师抗日。9月，开赴德州，参加沧州会战，阻击日军沿津浦路南进，以少胜多击溃日军。

平津失守后，日军为了实现其南北夹击、速战速决、“三个月内灭亡中国”的迷梦，又调集重兵从北平、天津分三路南侵，其中第十师团和第十六师团准备袭取沧县、德州，进窥山东、河南。于是，中国军队与日军展开了沧州会战。9月24日，日军攻取沧县，德州成为日军攫取的首要目标。

为了遏止日军攻势，保住德县这个山东的北大门，蒋介石电令山东省主席、国民革命军第三集团军总司令韩复榘迅速抽调两个师开往德县布防，与李必蕃第二十三师共同据守德县。然而，韩复榘却百般拖延执行命令，未能及时增援德县，致使日军长驱直入，很快占领了德县周围的阵地，负责守城的李必蕃师陷入了日军的包围圈中。10月2日，日军开始进攻德县。李必蕃指挥部队与敌人展开了激烈的战斗，多次击溃日军的猖狂进攻，歼敌2000多人。但在日军猛烈炮火的轰击下，德县城东北、西北均被炸毁，日军窜入城内，守城部队再三顽强反击，终因寡不敌众，未能成功，伤亡惨重。李必蕃奉命率部向津浦路西南方向撤退。10月5日，德县告失。

沧州会战结束后，李必蕃奉命驻守河南汤阴。李必蕃英勇善战，多次阻止日军南侵中原立功。蒋介石及第一战区司令长官程潜等对23师进行嘉奖，程潜还发了一笔优厚的奖金给23师。李必蕃为表达全师官兵爱国抗日的情怀，将全部奖金捐赠给《大公报》，作为报社抗日宣传经费。

1938年1月，山东日军增兵分三路南侵，其右路由济宁窥探商丘、柳河，企图切断陇海交通。2月，李必蕃率部驻防山东西南定陶，后又率部驻防郓城、菏泽，修筑工事，防范日军从南部入侵。当时，李必蕃部兵力远远不够，但他再三告诫全师官兵，必须以一当十，以忠报国，誓死保卫渮泽。

1938年5月初，日寇调集精锐师团，准备进犯黄河沿岸防线，李必蕃屡次向上级请求增兵，上级不但未调一兵一卒增援，反而将23师一批营、团官兵调往武昌集训。5月9日，日军向金乡、鱼台、郓城等县移动，黄河南岸防线侧翼开始受到威胁。5月11日，郓城失守。李必蕃心急如焚，严令68旅誓死夺回郓城，但终因敌强我寡，力量悬殊未能奏效，他于是将67、68两旅分置菏泽左右死守待援。5月13日凌晨，日军发起对菏泽的强攻，日军第十四师团于濮县强渡黄河，攻陷菏泽西北的董口，企图一举突破菏泽正面防线。李必蕃虽率领全师官兵浴血奋战，但因兵力薄弱，黄河防线终被突破。

1938年5月14日，战斗已经持续了五天五夜，李必蕃率部在荷泽城郊与蜂拥而入的日寇展开了肉搏，双方伤亡惨重。第67旅旅长李严武临阵脱逃，一口气跑了20余华里。第68旅旅长李岳霖同样畏敌，致使菏泽防线崩溃。李必蕃身边仅有一个连及随从副官，参谋长黄启东愤而跳城自杀。团长刘冠雄亦在战斗中牺牲。李必蕃率余部奋勇冲杀，突出重围。战斗中，李必蕃腹部中弹，傍晚退到距菏泽城10余里一个叫曲兴集的小村庄休息，他深感自己用人不当，致郓城、菏泽失守，决心以死报国。李必蕃掏出军用地图，在空白处写下激愤的21字：“误国之罪，一死犹轻；愿我同胞，努力杀贼！李必蕃遗言。”然后，静躺在木板上，扣动扳机，自杀殉国。

李必蕃牺牲后，遗体由部下李熙顺、李必隆抢运至开封就殓，公祭三天，程潜主祭，然后由其弟扶灵柩南归。

对李必蕃的牺牲，全国各大报刊及时作了报道。湖北、湖南各界分别于武汉、长沙、岳阳、嘉禾等地召开了追悼会，其中以5月29日在武汉召开的追悼会最为隆重。当时，中共中央和八路军总部代表吴玉章、罗炳辉和武汉200多个团体的1000多名群众参加了追悼会，邵力子主祭，郭沫若亲致悼词。

在长沙，李必蕃的灵堂设在鱼塘街消防队内，蒋介石亲自题写“成仁取义”四字，并送来了“转战徐淮，早识精英能报国；风雨同舟，眷怀节烈倍含悲”的挽联。省主席张治中亲自到灵堂祭奠，并送挽联：“百战立奇勋，恸报国捐躯，血溅沙场千古碧；三湘多壮士，看复仇雪耻，剑挂扶桑万丈虹。”公祭之后，湖南省政府准备将李必蕃葬于岳麓山。但李必蕃的父亲认为应当落叶归根，遂将李必蕃的灵柩运回，安葬嘉禾。不久，国民政府军事委员会追晋李必蕃为陆军中将。《新华日报》详细报道了李必蕃的殉国经过，赞扬他的爱国精神，并赠送了“民族之光”的金字大匾。

1986年，湖南省人民政府追认其为抗日烈士。

2009年，与齐学启、萧山令、罗芳珪、彭士量、吕旃蒙等在抗战中牺牲的湘籍国民党将领，首次作为湘籍著名烈士陈列在湖南烈士公园内的烈士纪念塔，供人瞻仰。