1949年2月，根据中央军委关于统一全军编制及部队番号的命令，中国人民解放军第三野战军以原华东野战军机关一部组成第8兵团领导机关，陈士榘任司令员，袁仲贤任政治委员，江渭清任副政治委员兼政治部主任，何以祥任参谋长。辖第24、第25、第26、第34军，共12.7万余人。

1949年4月，参加渡江战役，主力在江苏省境内强渡长江，切断沪宁铁路（上海―南京）。24日，兵团部进驻南京，兼南京警备司令部。5月，第26、第25军归第10兵团指挥，参加解放上海的作战。7月，第8兵团番号撤销，兵团机关大部组成华东军事政治大学；一部与第34军军部合并，组成新的南京警备司令部。所属各军归华东军区暨第三野战军直接指挥。