1937年日本发动“七七事变”和“八一三事变”后，为扩大侵华战争规模，不断向华北和华中增派军队，相继成立上海派遣军、华北方面军、华中方面军、华中派遣军，直属大本营。随着侵华战争的扩大，日军大本营为了巩固其在中国占领区的统治，加强对华北、华中、华南战场的统一指挥，于1939年9月4日命令组成中国派遣军，以西尾寿造为总司令、板垣征四郎为总参谋长，设总司令部于南京。统辖华北方面军、第十一军、第十三军、第二十一军及第三飞行集团等，共有23个师团又17个旅团，兵力约55万。

1940年2月，中国派遣军组建华南方面军，负责广东、广西地区的作战行动。1941年3月，畑俊六接任总司令。7月23日起，华南方面军脱离中国派遣军建制序列，改为大本营直辖。太平洋战争爆发前夕，中国派遣军下辖华北方面军（第一、第十二军和驻蒙军）以及第十一、十三、二十三军，共21个师团、20个独立旅团。