1940年2月初，蒋介石令进占磁县、武安、涉县、林县等地的国民党军朱怀冰、石友三部进攻八路军冀南抗日根据地，令鹿钟麟和孙殿英部进攻八路军太行抗日根据地。为反击国民党顽固派的军事进攻，八路军第一二九师在刘伯承、邓小平的率领下，遵照总部命令，采取争取鹿、孙中立，集中力量歼灭朱怀冰的策略，集中13个团的优势兵力于平汉路西，发起磁武涉林战役。3月5日，反击战役开始，至8日结束。此役歼灭朱怀冰部1万余人，收复了武涉公路以南、林县以北地区，有力地打击了国民党的第一次反共高潮。

朱怀冰被彻底击败，仓皇逃出重围，从此朱自知在河北难以立足，把残余部队交给师长刘明率领，背着“磨擦专家”的恶名，悄悄南下恩施投奔陈诚。当时陈诚任第六战区司令长官，委朱怀冰为战区长官部参谋长。

1940年秋，调朱怀冰为湖北省政府民政厅长亲自插手，指使秘密反共特务活动，为着便于操纵特务活动，朱在民政厅内，专辟一个房间，在厅长室隔壁，有门互通。这个机构办事人员很少，流动很大，平时冷冷清清神密莫测。其间，军统特务逮捕了鄂西特委书记何功伟、妇女部长刘玉清，特务们大喜若狂，陈诚也非常重视，朱以反共的老经验采用软硬兼施、威胁不成，便诱之以饵，他对何功伟烈士的父亲劝说道：“只要你儿子不再参加共产党，便送他出国留学”玩弄种种花招。

1942年，朱怀冰为湖北省政府拟定了一个《湖北各县政治战方案》，美其名日为抗日，而实际是指使各地方政权抵制和破坏新四军的活动，是个消极抗日，积极反共的典型。

1946年，万耀煌当湖北省主席，朱怀冰向万表示，愿意区故乡一一黄冈当县长，万也是黄冈人，同意了他的请求。这是他要弄的又一花招，表示自己不计名誉地位，到下层工作，用以沽名钓誉，拟订一个《建设新黄冈计划》，其中突出的是整顿保甲和训练壮丁。封山盖顶、移居并村，增哨加卡，声言“一家通匪，五家问罪”。要在三个月内剿完黄冈地区的共党组织。

1947年10月，应陈诚电召任东北行辕政务委员会常委。次年7月，任湖北企业公司董事长。1949年任鄂西行署主任。后经香港转赴台湾，任“东南军政长官公署”顾问、“行政院”顾问。1951年春，任“行政院设计研究委员会”副秘书长。1954年任“光复大陆设计研究委员会”副秘书长，1957年2月，升任秘书长。10月，当选为国民党第八届中央评议委员。1963年11月，连任第九届评议委员。1966年夏，任“总统府”国策顾问。1968年11月14日，病死台北。著有《孙子十三篇阵中笺释》，遗稿有《管子注释》、《大学论语今释》。

1911年参加武昌起义。

1915年秋入保定陆军军官学校第四期步兵科。

1917年保定陆军军官学校第四期步兵科毕业。

1920年前后，曾任江苏淮阴镇守使马守仁部营附。后南下广州，参加国民革命军，历任营长、团长。

1925年随军参加北伐战争，后调任北伐军总司令部参谋处科长。

1928年1月任新编第十军参谋长，后任第二十七军参谋长。

1931年5月任湖北省政府委员兼民政厅厅长。

1933年任军事委员会委员长南吕行营政治厅厅长。9月5日调任江西省政府委员兼民政厅厅长。

1935年4月授少将。

1936年2月任第九十四师师长。

1938年4月升中将。同年6月任第九十七军军长，率部开赴河北，任冀察战区副总司令兼政治部主任。后兼豫北民军总指挥等职。

1939年11月24日兼任河北省政府委员兼民政厅厅长，此间提出河北全境“军政统一”的主张，调集部队对太行山区的八路军进攻。

1940年8月调任第六战区司令长官部参谋长。同年任湖北省政府民政厅厅长兼粮政局局长。

1943年代理制北省政府主席。

1944年去重庆，任军事委员会军法执行总监部副总监，7月任中国国民党第五届中央执行委员会训练委员会副主任委员。

1946年任湖北黄冈县县长。

1947年10月应陈诚之召去东北，任国民政府主席东北行辕政务委员会常务委员。

1948年去武汉任湖北省企业委员会主任委员。

1949年任湖北省政府委员兼哪西行署主任。去台湾后，曾任“东南军政长官公署”及“行政院”顾问，“行政院设计委员会”及“光复大陆设计研究委员会”副秘书长及秘书长，“总统府”国策顾问。曾当选为中国国民党第八、第九届中央评议委员。

1968年11月14日在台北病故。