1937年8月中旬奉令组建，首任集团军总司令为顾祝同、副总司令为上官云相，下辖第八军、第一军、第二十六军、第五十七军等部，属第五战区指挥管辖，淞沪会战爆发后，第八军、第一军等分别编入其他集团军战斗序列，顾祝同也调任第三战区副司令长官，直接指挥淞沪会战。

1938年夏，于学忠任第五集团军总司令，下辖其基本部队第五十一军和宋希濂的第七十一军。1938年底，于学忠奉令率部组建鲁苏战区。后第五集团军番号调归第二战区，由驻守山西南部中条山的中国军队编组而成，集团军总司令为曾万钟、副总司令刘茂恩，下辖北伐时就存在的朱培德系统滇军第三军、刘茂恩的河南土著部队第十五军、高桂滋的陕北土著部队第十七军，其基本部队为第三军。

1941年初，第五集团军及中条山战区部队划归第一战区指挥。此时，第五集团军仅指挥第三军和第九十八军。1941年夏中条山战役中，第五集团军总部及其主力第三军遭到惨重失败，第三军军长唐淮源、该军主力师第十二师师长寸性奇及大量官佐阵亡，1941年夏末，第九十八军在与日军作战中失利，9月29日，军长武士敏阵亡。后该集团军番号被撤销。