中国人民解放军第23军的前身是华东野战军第4纵队。1946年2月初，华中野战军第1师改称华东野战军第4纵队，陶勇任司令员，王集成任政治委员，梅嘉生任参谋长，刘文学任政治部主任。所属第1、第2、第3旅依次改称第10、第11、第12师，共3万余人。1948年3月，第4纵队在河南濮阳地区进行新式整军。郭化若任纵队政治委员，卢胜任副司令员，韩念龙任政治部主任。解放战争时期，曾参加高邮战役、苏中战役、涟水保卫战、盐城保卫战、鲁南战役、莱芜战役、孟良崮战役、胶东保卫战、豫东战役、济南战役、淮海战役等。

1949年初，根据中共中央军委关于统一全军编制及部队番号的命令，华东野战军第4纵队改称中国人民解放军第23军，隶属第三野战军第7兵团建制。陶勇任军长，卢胜任政治委员，梅嘉生任副军长兼参谋长（后彭德清任副军长，陈宏任参谋长），刘文学任副政治委员（后仲曦东），谢云晖任政治部主任，全军共3.5万余人 。4～5月参加渡江战役，与兄弟部队一起解放杭州。在解放上海的作战中，由曹家渡、宁平桥攻入上海市区。解放战争中，第23军参加大小战役120余次，歼灭国民党军19余万人。