1937年8月中旬在上海地区组建，首任集团军总司令为张治中先生，副总司令黄琪翔，下辖第三十六师、第八十七师、第八十八师，均系原国民政府警卫军，由德国顾问训练的精锐之师，是最早投入淞沪战场的部队，属第三战区指挥管辖。1937年8月13日，在淞沪战场最早阵亡殉国的黄梅兴将军就是第八十八师第二六四旅旅长。9月中旬，朱绍良接任第九集团军总司令，第十八师、第六十一师加入该集团军战斗序列，这时该集团军担任淞沪战场中央地段防守任务。坚守四行仓库的“八百壮士”就是由第八十八师第二六二旅第五二四团的官兵组成。10 月25日，该集团军第十八师师长朱耀华因所扼守的大场防线被突破，官兵伤亡惨重，无力恢复而自戕殉国，被警卫员扑上前去，子弹打偏，侥幸未死。后在南京保卫战中，该集团军第八十七师第二五九旅旅长易安华、第八十八师第二六四旅旅长高致嵩、第二六二旅旅长朱赤均阵亡殉国。1938年夏，第九集团军番号调归第九战区指挥管辖，集团军总司令为吴奇伟，下辖第六十四军、第七十军、第二十五军、第四军、第八军和第六十六军等部，驻扎江西，曾参加武汉会战，是万家岭大捷的主力参战部队，该战全歼日军四个联队。到1939年春，第九集团军只辖第四军、第四十九军，参加过南昌战役。1940年，第九集团军番号转归第四战区，集团军总司令为关麟徵，下辖第五十四军、第六军。1943年，第九集团军又调归昆明行营指挥管辖，关麟徵仍任集团军总司令，其起家部队第五十二军加入该集团军战斗序列。后第五十四军、第六军调离该集团军。1945年春，第九集团军及第五十二军奉令编入中国陆军总司令部直辖的、专门用于战略反攻任务的四个方面军中的第一方面军，关麟徵任第一方面军副总司令。