1931年8月，在河北河间成立第40军，下辖第39师、新编第1师。1932年夏，移驻永年、大名“剿匪”。

1933年2月，新编第1师改称第106师后，脱离建制。2月军部率第39师在冀东罗文峪等地参加长城抗战，战后移驻怀来、保定。12月，骑兵第25旅缩编为该军骑兵团。

1934年8月，东北义勇军唐聚五部编为该军补充团。同年，移防河南南阳、泌阳、方城、叶县地区。12月，追堵退出鄂豫皖苏区的红二十五军。

1935年1月，进驻陕南，围攻鄂豫陕根据地。

1937年初，调山西运城。7月，由运城调河北沧州。8月，骑兵团并入补充团改隶第39师。隶属第1战区第1集团军第3军团参加津浦路北段作战（19379月11日至12月27日）。10月初，由山东济阳渡过黄河，经济南、台儿庄、枣庄到江苏海州，在连云港到盐城设防。

1938年2月7日，由海州移防临沂，属第5战区第3军团参加徐州会战（1937年12月下旬至1938年6月中旬），重创日军板垣师团。4月底，调江苏沛县休整。5月下旬，开河南漯河、舞阳一带整补。

1938年底，第106师、骑第14旅拨入，该军改辖第39、第106师和骑兵第14旅。1939年初，调黄泛区游击，一度增辖暂编骑兵第1师。旋移防晋东南，进入太行山地区隶属冀察战区作战，暂编骑兵第1师改隶第3集团军。10月该军属第24集团军。参加第2战区1939年冬季攻势（1939年12月10日至1940年2月2日）。

1940年1月攻击长治壶关。1月28日，进攻高平地区八路军。同年春，进驻豫北林县。5月、11月，在安阳作战。

1941年初，骑兵第14旅脱离建制，该军改辖第39第106师在林县、涉县一带参加晋南会战（1941年5月7日至6月15日）。

1942年6月，所辖独立第1、第2团编并为独立第46旅。1943年4月，在林县、临淇、陵川地区作战。5月5日，第24集团军总司令兼该军军长庞炳勋被俘。5月14日，庞炳勋、第106师师长李震等人投敌。6月初该军退出太行山区，南渡黄河，改隶第1战区。

1943年6月，独立第46旅与军补充团合编为新编第40师，该军改辖第39、第106、新编第40师。1944年在河南陕县、灵宝、宜阳参加豫中会战（1944年4月中至6月中旬），克复灵宝。1945年参加豫西鄂北会战（1945年3月下旬至5月下旬）。

1945年7月，新编第40师裁撤，官兵并于第39、第106师，新编第42师拨入（该师旋改称第144师，未曾归建，1946年1月改第15军）。8月，该军由第1战区改第11战区10月18日，由阌乡抵达安阳，在冀南作战（1945年10月14日至11月4日）。10月24日至11月2日，军部和第39、第106师在河南汤阴、河北磁县被歼，第11战区副司官兼该军军长马法五被俘。残部到安阳重建，已由伪军改称国军新编第1路军的庞炳勋所属部队编入该军。

1946年5月，整编为整编第40师，下辖整编第39、第106旅。隶属郑州绥靖公署第31集团军（该集团军9月下旬改称整编第26军），在豫北地区“扫荡”（1946年9月下旬至11月中旬）和豫北冀南作战（1946年11月中至1947年1月中），1947年1月2日占临漳。后隶属陆总郑州指挥所第6绥靖区，在豫北地区作战（1947年3月底至5月底）。5月9日至25日，两个团在安阳被歼灭。

1947年7月，第106旅及第39旅所属第115团由安阳空运开封，驰援鲁西南地区作战（1947年6月下旬至7月下旬），7月21日到曹县。沿陇海路经郑州转平汉路“追剿”刘邓大军（1947年8月中旬至下旬）。9月，在鄂东参加大别山“进剿”作战。10月26日至27日在蕲春高山铺被歼灭。战后返回安阳整补。1948年3月，增援洛阳。是月师部和第106旅、第39旅一部接防新乡，第39旅主力留驻安阳。

1948年9月，恢复军师番号。10月，军部及第106师由新乡南下郑州。10月22日，第106师师部及所属一团在郑州以北30里的老鸦陈地区被歼灭。10月底，第39师由安阳空运徐州编入第13兵团，后转隶第115军。11月增辖第337师，驻防安阳。

1949年2月增辖第264师。军部及第106、第26师驻新乡。2月下，第106师所属第316团团长庞庆振在汲县率部起义。3月初，第106师等部抽调近千名军官空运武汉，拟重建第39师（未果）。5月5日，副军长李辰熙投诚，军部及第264、第106师2万人在新乡接受和平改编（改编为第四野战军独立旅）。5月6日，第337师在安阳被歼灭。

庞炳勋（-1942.5.14投敌）

马法五（1942.5.30-1945.11.2被俘）

李振清