杜吉臣和全家商量后决定上山抗日，为了能保持和地方党组织联系，先让二弟杜基利夫妇搬到后屯马核山隐居起来，负责传递消息。这时抗联五军二师师长王光宇和穆棱县县委书记刘曙华来到他家。杜吉臣立刻把严峻的形势和全家决心上山抗日的打算向他们作了汇报。3人经研究决定立即发动奎山武装暴动，缴奎山甲所自卫团和日军守备队的枪械。通知已经任五军副官长的冯不让从部队抽调王指导员等20多名指战员配合杜吉臣暴动。在自卫团中的杜基升等人作内应。

第三天午夜，杜吉臣带领奎山地下党员、自家兄弟和乡亲挚友20多人臂戴标志，在王光字、刘曙华和冯丕让所率抗联小队的配合下，击毙日军巡哨兵等10余人，缴获甲所自卫团丁的枪械和弹药。暴动后部队迅速转移到吉庆沟里，杜家共13人一起进山。在王光字、刘署华和冯丕让帮助下，杜吉臣全家和乡亲挚友20多人，成立了穆棱县抗日游击连，杜吉臣任连长，·从此杜吉臣领导的游击队与王光字、刘曙华和冯玉让领导的五军部队，互相配合，协同作战。

杜吉臣领导的抗日游击连，转战在奎山、大小杨木背（今上三阳和六合村）、龙爪沟一带，多次粉碎日伪军的“讨伐”，此间曾两次攻打林口需察署和弹药库，给敌人以沉重打击。

1936年8月，杜吉臣领导的游击连，正式编入抗联五军二师四团，开赴刁翎地区。同年秋，杜吉臣率游击连在林口县域的二道河子，参加了五军二师政治部主任刘露华组织的伏击日军运输队的战斗。战斗打响后，杜吉臣身先士卒率杜家兄弟打头阵，勇猛冲进敌群，两手双枪齐射，很快歼灭敌人，夺取大批军需物资。战后，杜吉臣因战功卓著晋升为五军二师四团团长。

杜吉臣升为团长后，军纪更加严明，要求杜家兄弟尤其严格，甚至连他的家眷生孩子都不下山麻烦群众。在他的带领下，四团战士从未侵犯过群众秋毫利益，部队行军作战多在山上驻扎，常以野菜充饥。当地人民无不赞扬和支持这支抗日部队。

1936年秋至1937年春，杜吉臣率领抗联五军二师四团经常活动在兴隆镇、三道通、大小碑子沟、西北楞和大小锅盔、草帽顶子、黑瞎子沟、柞木岗子一带高山密林中，积极开展游击战，辅捉有利战机袭击敌人，消灭大量日伪军。此期间，四团曾多次协同抗联三、四、八、九军等部队联合作战，参加了著名的夜袭前刁翎（今建堂）之战，组织和参加了两次攻打黑背日军金矿局守备队的战斗和小盘道伏击日军押运队的战斗。这些战斗都给日伪军以沉重打击，其中夜袭前刁翎之战击毙日伪军40余人，俘虏伪军440人，缴获伪军全营武器装备。小盘道伏击战缴获日军押运队满载军需物资的大车40余辆，杜吉臣四团英勇善战，神出鬼没，搅得敌人惶惶不可终日。

1937年夏，日军纠集大批兵力到小锅盔山抗联峦营一带“清剿”。为粉碎“清剿”，抗联二路军总部调集五军二师四团和四军二团等部队，在小锅盔山东侧埋伏待敌。为迷惑引诱敌人，黎明时分，杜吉臣带一支百余人的队伍，故意暴露目标，打着红旗，唱着战歌，吹着军号，行进在小神子沟到河西电（今刁翎慎四合村）的山梁上。上午8时许，三道通方面窜来一股百余人的日军：不久，兴隆镇方面赶来二三百日军。

两股日军汇合后，向后齐家至河西屯的西山丛林奔来，钻进抗联的伏击圈。抗联战士居高临下，以密巢的火力将敌人压迫在山脚下的开阔地里抬不起头，死伤惨重。后来一些敌人突围出来跑到河西屯和村庄附近的麦田。几个日本兵爬上房脊架设机枪对抗，立刻被抗联战士击落坠地。跑进麦田的敌人，纷纷往麦垛后藏身企图负隅顽抗。几名日军机枪手带两挺机枪抢进麦田，未及架设就被抗联战士击倒。杜吉臣团长决定立即夺取这两挺机枪，以增强火力。他命令机枪掩护，自己带10余名战士直扑敌机枪阵地。突然，一个没有被打死的日本兵挣扎着爬到机枪旁，杜团长大减：“卧倒！”话音未落，敌机枪响了。他大腿中弹，但仍镇静地指挥刘连长带队迁回到敌人背后消灭残敌。自己用匕首割下衣角包扎一下伤口就又带其余战士向前冲锋，不幸又身中数弹倒在血泊中。经过一天多的浴血奋战，抗联部队终于全歼顽敌，缴获大量战利品。但杜吉臣因流血过多而牺牲，时年34岁。抗联二路军总指挥周保中主持了追悼会，将杜吉臣团长遗体埋葬在四合屯李公清沟里一棵大桦树底下。

建国后，1959年4月7日，林口县人民政府将杜吉臣烈士灵柩移葬县嫩南山烈士公基内，并立石碑。至今“杜吉臣全家抗日”的故事仍在林口县人民中间广为传颂。