1948年11月，根据中共中央军委关于统一全军编制及部队番号的命令，东北野战军第3纵队改称中国人民解放军第40军，仍隶属东北野战军。韩先楚任军长，罗舜初任政治委员，沙克任副军长，刘西元任副政治委员，卓雄任政治部主任。所辖第7、第8、第9师及新调入的独立第1师依次改称第118、第119、第120、第153师，全军共5.9万余人。12月～1949年1月参加平津战役，先攻占北平（今北京）南苑机场，后与兄弟部队一起执行包围北平国民党军的任务。

北平和平解放后，第118师参加北平入城式。同月，第40军执行对国民党军第101军军部的改编任务，后随第12兵团执行先遣任务，由北平南下。5月编入第四野战军第12兵团建制。罗舜初任军长（后由兵团第二副司令员韩先楚兼），卓雄任政治委员（后袁升平），蔡正国任副军长，何振亚任参谋长（后宁贤文），李伯秋任政治部主任。4～5月参加渡江战役，与第43军一起进行汉浔间渡江作战，解放华中重镇武汉。6月，第153师调归武汉警备司令部建制。7月，第40军参加湘赣战役。9～10月，编入进军华南的中路军，在衡宝战役中担负正面突击任务，与兄弟部队共同歼灭国民党军第7军军部及4个精锐师。11～12月，归第四野战军直接指挥参加广西战役，连续21昼夜追击国民党军，全歼其第125军。尔后，集结于钦州、防城、合浦地区。

1950年3～5月，在第15兵团指挥下参加海南岛战役，先以小部队偷渡，后以大部队强渡登陆成功，并向榆林、三亚方向追击撤逃的国民党军，与兄弟部队一起解放海南岛。6月，第40军奉命进至辽宁省安东（今丹东）地区，编入东北边防军。10月，第40军编为中国人民志愿军第40军，参加抗美援朝战争。

在抗美援朝战争第四次战役中，第40军在春川以南、金化以北地区抵抗了“联合国军”与南韩军队3个师及一个旅的进攻，第120师第360团第1连副班长曹庆功、第358团第3连班长王学凤和副班长刘维汉等在子弹打光后与敌方同归于尽，均被中共中央军委追记一等功，并追授一级战斗英雄称号。

1953年7月，第40军由朝鲜回国。

1976年唐山大地震时，所辖步兵第120师在震后参与了抗震救灾的一线工作，下属的第358团第1连后被中共中央军委授予“抗震救灾模范连”称号。

1985年，中国人民解放军第40军改编为中国人民解放军第40集团军。

2016年，原沈阳军区第16、39、40集团军和原济南军区第26集团军转隶北部战区陆军。

曾担任过沈阳军区政治委员和北京军区政治委员的刘振华上将出自第40军，在第40军内曾任第118师师长，第40军政治委员。此外，在1985年－1992年间担任广州军区政治委员的张仲先中将亦出自该军。

中国人民解放军第40集团军曾被授予荣誉称号的单位有：

铁拳团 - 原步兵第118师第352团；

渡海先锋营 - 原步兵第118师第352团第1营。

解放战争中，该部参加了三保本溪，四保临江作战，赢得“旋风部队”的美誉。1947年9月毛泽东主席亲自修改和批转了该纵队开展诉苦教育的经验报告，由此在全军掀起了以诉苦和“三查”（查阶级、查工作、查斗志）为中心的“新式整军运动”，有力提高了我军的战斗力。在辽沈战役的锦州攻坚战中，第7师20团以顽强的精神拿下了城防要塞配水池，尔后第19团和第8师23团首先突破锦州城墙。在辽西会战中，第21团、第19团1营和7师炮兵营在胡家窝棚歼灭廖耀湘兵团前进指挥所，为全歼国民党军“五大主力”之二的新1军、新6军做出了贡献。1950年4月第40军又参加了解放海南岛的战役，第118师是解放海口的主力部队，第352团1营被授予“渡海先锋营”荣誉称号。

1950年朝鲜战争爆发后，第40军挥师北上，首批入朝参战，10月25日晨，第118师遭遇窜入温井向北镇进犯韩军第6师的一个加强步兵营，当该敌进至两水洞地区时，第118师突然发起攻击，经1小时激战，全歼敌人，并乘胜攻占温井，揭开了志愿军入朝参战的序幕。这一天成为中国人民志愿军出国作战纪念日。在第四次战役中，该军在春川以南、金化以北地区顽强抗击了敌军3个师又一个旅的进攻，其中第120师360团1连副班长曹庆功、358团3连班长王学凤和副班长刘维汉等在子弹打光后与敌同归于尽，均被追记一等功，授予一级战斗英雄称号。

1953年7月40军从朝鲜回国后长期驻守辽宁锦州。1976年“唐山大地震”时，该军步兵第120师紧急开赴抗震救灾第一线，第358团1连后被中央军委授予“抗震救灾模范连”荣誉称号。