1941年“皖南事变”后不久，中共中央军委发布命令，重建新四军军部。驻扎在苏北一带的八路军第5纵队奉命改编为新四军第3师，黄克诚任师长兼政委，下辖7、8、9三个旅。

苏北抗日根据地的日益壮大，直接威胁着日军对这块地区的控制。日军多次集结重兵，对以盐城为中心的苏北抗日根据地发动了大规模的“扫荡”。1942年底至1943年冬，是苏北抗战斗争最艰苦的阶段。日军在1942年底“扫荡”了山东抗日根据地后，即转向苏北抗日根据地，在那里“扫荡”半年之久。中共领导下的苏北抗日武装与残暴的日伪军进行了英勇的反“扫荡”斗争，涌现出了许多可歌可泣的英雄事迹。

1943年2月，日军第17师团和伪军在苏北淮海区一带“扫荡”，寻歼新四军。3月16日，日伪军1000余人分兵11路，合围进驻在梁岔一带的新四军3师7旅19团2营4连等部，企图以铁壁合围歼灭这部分新四军。4连等闻讯迅速转移，跳出了日军包围。日伪军随后穷追不舍，跟踪追击。17日，4连在涟水县老张集和朱杜庄一带和敌人遭遇，激战半日，在黄昏时突出重围，转移到刘皮镇刘老庄一带。

刘老庄村是苏北平原上的一个普通乡村(今属江苏省淮安市淮阴区刘老庄乡)，人不足百户，南距淮阴城50多里，紧靠淮沭公路右边。18日凌晨，4连带哨的班长匆匆跑来喊醒连长白思才，报告南庄的老百姓正在四散奔逃，据说敌人已到南面5里的地方。白思才一跃而起，和连政治指导员李云鹏简单碰了一下头，即派通讯员传令各排马上起身，收拾行装到庄子后集合。白思才来到庄前哨位上，看到老百姓在田野里慌乱地跑着，有的拉着牲口，有的背着包袱，有的抱着小孩，敌人的枪声就在不远处挑衅似的持续响着。白思才让收了哨，集合队伍向西北方向撤离。

队伍刚出庄子，只见一条又宽又深的交通沟向西蜿蜒伸展着。指战员们都下了沟，走着走着，忽然从西南方向冲过来一股敌人的骑兵，一匹、二匹、十匹……向着这个方向快速奔来。白思才叫大家快走，尽快甩掉敌人。这时，前面的尖兵停住了，班长跑回来向白思才报告：“交通沟是断截的，走不通了！”白思才把驳壳枪掏了出来，叫大家准备好武器，伺机突围。

部队刚跳出交通沟，敌人的骑兵就冲到了跟前，白思才的驳壳枪打响了，接着大家一起开火，先头的几个骑兵中弹栽下马来，后边的见势不妙，赶紧缩了回去。敌骑兵虽暂时被打退，但后面黑压压的步兵却扑了过来。白思才看了看附近的地形，既没有院墙和树林等障碍物，也没有坟堆等小高地，战士们无处隐身，就命令退回到交通沟里。白思才知道突围是暂时不可能了，只有坚决抵抗！于是，他下达了战斗命令，叫各排长督促大家选好地形，上好刺刀，准备战斗到底。他们多坚持一会儿，附近的群众就能多转移出一批人。

不过几分钟，日军步兵就冲到相距不过五六十米的阵地前，白思才手中的重机枪首先发出怒吼，全连的火力一块儿猛射，鬼子成片倒下，丢下十几具尸体，溜之大吉。这两次接触战，4连无一伤亡。

19团的前身是北伐时期的叶挺独立团和八路军的115师685团，各连配备的武器都比较精良。4连的前身是江苏丰县的一支地方武装，1939年10月改编为苏鲁豫支队第1大队第3营第10连，1941年编入新四军第3师19团。连长白思才，江西人，16岁参加红军，参加了长征，抗战初期又参加了平型关战役，是一位英勇善战、沉着机智的指挥员。政治指导员李云鹏，江苏沛县人，青年学生出身，曾在延安抗日军政大学学习，是一位久经战火考验的优秀政工干部。该连班排长和战士大多数是抗日战争爆发后参军的贫苦农民，政治素质好，在长期的对敌斗争中培养了顽强的战斗作风、坚定的战斗意志和娴熟的战斗技巧。4连有一挺重机枪，这在当时是很少见的，白思才亲自担任重机枪手。

从当时的情况看，4连要更好地保存自己，更多地杀伤敌人，最好是进驻刘老庄，以房屋、院墙等有利地形作掩护，据村固守。但指战员们考虑到村内还有不少没来得及撤离的群众，战场摆在村内，伤亡最多的还是老百姓。因此，连队坚持把阵地选在村外的交通沟一线。

纠集这股日伪军的，正是日军17师团师团长川岛，他一见先头部队被痛揍，气得哇哇叫，当即叫嚣：“附近各路人马立即包抄刘老庄。”时间不长，1000名左右的日军和600多名伪军就从四面八方聚集到刘老庄附近，形成一个包围圈。这伙鬼子是一支1938年建立的日军部队，士兵作战有术，装备精良，配有骑兵和炮兵，携带有山炮、九二步兵炮、迫击炮和掷弹筒等重武器。

1943年3月18日上午9时左右，日军发起第一次总攻，但刚前进了30米，便被4连密集的火力击退。这次，川岛看到溃败下来的鬼子，不但不怒，反而大喜，他得意地对部下说：“这次进攻，是我搞的小小火力侦察。这不是土八路，是一支正规部队。我寻找他们好多天了，这次一定不要让他们跑掉！”

重整旗鼓之后，鬼子再次发起进攻。他们投入10多挺机枪，集中火力向4连阵地扫射。在火力掩护下，鬼子向4连阵地爬来，当距离阵地百米左右时，4连枪榴弹集中打向日军火力点，同时轻重机枪一齐开火。日军的第2次冲锋很快也以失败告终，但4连的弹药也即将消耗殆尽。

这时，李云鹏发现阵地前沿的日军尸体上遗留不少枪和子弹。他和白思才商量后，安排一排排长尉庆忠带领突击小组去取弹药。小组冒着日军的枪林弹雨，取回了日军抛下的枪支弹药。在后撤时，尉庆忠不幸中弹牺牲。

此后，鬼子又连续发动两次进攻，都被打退。我方各排的伤亡也不断增长，可壮士们仍然顽强地坚守在阵地上。工事摧垮了再修，掩体毁了，用土包堵上去。轻伤员包扎好伤口继续战斗，重伤员拖着伤腿为战友们压枪弹、递手榴弹。

川岛见久攻不下，改变战术，让伪军到阵前喊话，承诺只要新四军放下武器，一定不会杀害他们。然而回答的，却是一排子弹，喊话的伪军当场毙命。川岛恼羞成怒，用上了炮兵，他集中所有的山炮、九二步兵炮、迫击炮、掷弹筒，向4连阵地猛烈轰击。炮火的浓烟弥漫天空，昏天暗地。

在猛烈的炮击中，白思才被弹片炸伤，左手失去活动能力，昏迷了过去。苏醒后，他挣扎着爬起来，来往于壕沟内，鼓舞士气，安慰伤员，指挥战斗。临近黄昏，白思才和李云鹏再次清点部队，发现战士只剩下20多个，并且大都负了伤，枪弹以及手榴弹几近打光。他们已经与敌人苦战10个小时，还没有吃一粒饭，喝一滴水，个个筋疲力尽，干裂的嘴唇冒着血丝。他们用于防御的交通沟，也几乎被敌人的炮火摧平了。

白思才下了最后的命令，把余下的子弹集中给重机枪使用，轻机枪全部拆散。步枪卸下枪栓，装上刺刀，准备肉搏战，并将机密文件和报刊全部销毁。

夕阳下垂，日军发起第5次进攻，涌到了4连的阵地前沿。白思才高喊一声“杀啊！”霍地跃出战壕，李云鹏挥动着上了刺刀的步枪，紧随白思才冲了上去。在一片气壮河山的喊杀声中，战士们端起刺刀，一跃而出，与敌人开展了白刃肉搏。他们的刺刀捅弯了，就用枪托砸。枪托砸碎了，就用小锹砍。小锹砍断了，就用双手掐。手臂负伤了，就用牙齿咬……一场惊天地泣鬼神的厮杀后，4连的壮士们全部倒了下去。

待一切都复归宁静的时候，川岛心惊肉跳地走出指挥所，来到4连守御的阵地，企图找到点“战利品”。但是，他不仅没有抓到一个俘虏，甚至连一支完整的枪也找不到。川岛仔细清点了血泊中的新四军人数，发现与他的1600多精兵殊死决战了几乎一天的，竟不过是新四军1个82人的连队，而他的部队却有170多人丢命，200多人受伤。川岛拄着指挥刀，懊丧地站在这片硝烟以及鲜血浸染的土地上，忽然嚎叫一声：“八路军、新四军，大大的坏了！”

当晚，19团2营3连连长霍继光率部到刘老庄收敛埋葬4连战士遗体。这是霍继光一生中最难忘的日子。阵地上，硝烟还没散尽，四处丢散着被砸坏的枪，很多战士是和日本鬼子抱在一起死的。4连牺牲的本来是82人，最后收葬的却是84具尸体，因为有两具把敌人抱得太紧实在分不开，只好将他们一起下葬。

打扫战场时，他们发现有一名战士还活着。但这名24岁的战士伤势实在太重了，身上有3处弹眼，十几处刺刀的伤痕，右臂也被炸断了。他断断续续地讲述完那场惨烈战斗后，还没来得及告诉人们他的名字，就永远地安息了。

4连82壮士悉数捐躯的消息传到了新四军3师7旅，指战员们无不悲痛万分。3月29日，19团在郑潭口小学召开追悼大会，隆重悼念为国捐躯的战友。

新四军3师党委命名4连为“刘老庄连”，并将每年的3月18日定为“82烈士殉国纪念日”，同时命令以涟水独立团2连全体指战员为主体，组建新的4连。

刘老庄82烈士的英雄事迹受到了八路军总部和新四军军部领导的高度赞扬。朱德总司令在《八路军新四军的英雄主义》一文中指出：“我们部队仍然创造了许多史无前例的英雄业绩，涌现出许多出类拔萃的新的英雄们……如著名的平型关大捷，阳明堡火烧敌机，使敌人胆寒的百团大战，狼牙山五勇士的壮烈跳崖……全连82人全部壮烈殉国的淮北刘老庄战斗……无一不是我军指战员的英雄主义的最高表现。”新四军代军长陈毅则盛赞82壮士浴血刘老庄是“惊天地而泣鬼神的壮举”，他还在《新四军在华中》一文中说：“烈士们殉国牺牲之忠勇精神，固可以垂式范而励来兹。”

刘老庄这个苏北地区的普通村庄，因为这次战斗，从此与英勇的4连联系在一起，当地人民坚持通过各种方式来纪念这些革命烈士。刘老庄战斗一结束，老百姓就为烈士们堆起一座3丈高的土墓。抗日战争胜利后，苏皖边区政府用砖石砌成陵墓，后于1946年被国民党军队炸毁。1955年，当地重新修建82烈士墓和陵园，1984年又建起纪念碑。2000年，当地建成82烈士纪念馆，10年后进行了改扩建，并于2013年3月18日刘老庄战斗70周年纪念日之际，重新对外开放。2014年9月初，国务院公布了第一批80处国家级抗战纪念设施、遗址名录，其中就有刘老庄82烈士陵园。

2014年9月1日，在纪念中国人民抗日战争暨世界反法西斯战争胜利69周年前夕，经党中央、国务院批准，国家民政部公布了第一批300名著名抗日英烈和英雄群体名录，“刘老庄连”82烈士集体入选。