1937年7月7日前，日本陆军在台湾的部队统称“台湾军”，其编制与关东军、朝鲜派遣军、以及中国驻屯军一样为军一级的单位。但下辖兵力并不算多，主要为“台湾守备队”，下辖：台湾守备司令部、台湾守备步兵第一联队、台湾守备步兵第二联队、台湾守备山炮兵联队、台湾高射炮队、基隆重炮兵联队、马公重炮兵联队等。

1937年8月13日上海之战打响后，日军于8月15日组建“上海派遣军”。9月7日，抽调台湾守备部队（此时称台湾混成旅团）大部兵力组建“重藤支队”加入上海派遣军。支队长重藤千秋少将，兵力编成：为台湾步兵第一联队、台湾步兵第二联队、台湾山炮兵联队等。1937年11月7日，上海派遣军编入华中方面军参与南京大屠杀。出现了中国人杀中国人的现象。接着在12月7日，重藤支队编入准备进攻华南地区的第五军。