陆军常备主力师团(师)下辖有两个步兵旅团(旅)，每个步兵旅团(约7700人)下辖两个步兵联队(团)，每个步兵联队(约3870人)下辖三个步兵大队(营)，每个步兵大队(约1215人)下辖四个步兵中队(连)和一个重机枪中队，每个步兵中队(约250人)下辖三个小队(排)，每个小队约70人。另外，师团还直辖骑兵联队(约1400人)、炮兵联队(约2500人)、工兵联队(约1500人)、辎重兵联队(约2800人)及通信队(约650人)、卫生队(约500人)，野战医院(约150人)等。

步兵独立混成旅团

下辖五个独立步兵大队及炮、工、通、辎重队，全旅团约8280人，配备军马1800匹、步骑枪4050枝、掷弹筒120个、轻机枪120挺、重机枪30挺、平射炮10门、山炮20门、野炮12门等武器装备，是具备相当野战能力的作战单位。

独立警备队

一般管辖六个独立步兵大队，共有兵员5450人，配备军马420匹、步骑枪3660枝、掷弹筒144个、重机枪24挺。由于这种部队没有重型武器，一般只担任后方警备任务。

骑兵旅团

一般下辖两个骑兵联队，共有兵员5600人，配备军马5668匹、步骑枪3705枝、重机枪12挺、野炮36门等武器装备。

野战重炮兵旅团

是陆军的预备队炮兵，一般有官兵8000余人，配备有100毫米至240毫米的大口径榴弹炮或加农炮70余门，常用于重点攻坚任务。

坦克部队

日本陆军在第二次世界大战时期也有一支规模不小的坦克部队。日本军方自1925年开始研制坦克，1929年组建坦克部队。但初期多以坦克联队为建制配属于陆军师团，至1936年后才在中国东北公主岭组建日军第一坦克旅团。1942年6月，日军在中国东北的宁安、勃利和绥远的包头又组建了第一、第二、第三战车师团，1944年在其国内组建了第四战车师团。日军战车师团一般装备轻型坦克100辆、中型坦克335辆、各种汽车1272辆、加农炮36门、高射炮12门、野炮4门、速射炮12门、平射炮6门、重机枪18挺、轻机枪144挺、步骑枪装甲车在火力、速度、装甲防护力等方面均与欧美先进工业国有一定差距，故在二战中对苏、对美的历次战役中均显得不堪一击。

摩托化部队

帝国陆军在二战期间也组建过摩托化部队。1941年夏，日军首批改建四个师团为摩托化师团，它们是近卫师团、第五师团、第十八师团和第四十八师团。

1884年日本在旧式军队的基础上首次组建了6个正规陆军师团，即第一至第六师团，中日甲午战争以后，日本又组建了6个正规陆军师团，即第七至第十二师团。1907年，日本在日俄战争后再次扩充6个正规陆军师团，即第十三至第十八师团。1915年，日本又在被其侵占的朝鲜组建了两个陆军师团，即第十九、第二十师团。这样，加上守卫日本东京皇宫地区的日军近卫师团及4个驻扎在各地的独立混成旅团，就构成了日本帝国主义陆军主力平时的基本框架。

在不断的对外侵略扩张中，日本开始在别国领土上及被其控制的地区驻扎军队。如：1895年后在中国台湾组建日军台湾军（たいわんぐん）；1901年后在中国京津地区驻扎日军华北驻屯军（しなちゅうとんぐん）；1915年在朝鲜组建日军朝鲜军（ちょうせんぐん）；1919年在中国东北组建日本关东军（かんとうぐん第十九师团、第二十师团组成；有些由正规主力师团轮流调防担任，如日本关东军；有些则由混成旅团或其他建制的部队担任，如日军台湾军和日军华北驻屯军。1925年后，日本帝国主义在当时国际和平裁军的压力下，同时为了节省军费以研制现代化的武器装备，也曾裁撤了第十三、第十五、第十七、第十八共四个师团的部队。

日本在建立现代陆军的过程中，初期曾崇拜学习法国的军事理论和体制，后来基本上改为以德国的军事理论和体制为蓝本，并向先进的西方制度学习，建立起地区义务兵役、军事预备役的征兵体制。即日军每个师团平时驻守的地区，本身就是其征兵机构的师团管区，也是其征集补充兵源的地区，其全部士兵和中下级军官全部来自这一地区。所以，在日军部队的历史上就曾出现过一家祖孙数代都曾在不同历史时期的同一支部队中服役并参加历次战争的情况。同时，日本陆军常备主力师团也常以地名来表示。如；第一师团，因其长期驻守东京地区，其全部士兵和全部中下级军官为东京地区人，故又称为东京师团。以此类推，第二师团又称仙台师团，第三师团又称名古屋师团，第四师团又称大阪师团，第五师团又称广岛师团，第六师团又称熊本师团，第七师团又称旭川师团，第八师团又称弘前师团，第九师田又称金泽师团，第十师团又称姬路师团，第十一师团又称善通寺师团，第十二师团又称久留米师团，第十四师团又称宇都宫师团，第十六师团又称为京都师团等等。

日本陆军军衔共计6·等16级，即大将、中将、少将、大佐(校)、中佐、少佐、大尉、中尉、少尉、准尉、曹长(上士)、军曹(中士)、伍长(下士)、上等兵、一等兵、二等兵。日本陆军也有元帅军衔，但规定由日本天皇从战功显赫或资深的大将中选任，颁赐元帅封号，自明治维新后至1945年日本帝国主义投降，共有17位陆军大将被天皇颁赐元帅军衔。日本军衔与有些国家不同的是，大尉、大佐、大将的领、肩章上都只有3颗而不是4颗星。在日本陆军中，军司令官常是中将或大将军衔，师团长多是中将军衔，旅团长多是少将军衔(也有个别是中将军衔的)，联队长多是中佐或大佐军衔，大队长多为少佐、大尉军衔，中队长多为中尉军衔，小队长多为少尉军衔。

日本军队只有陆军和海军两个军种，虽然其曾拥有强大的航空兵部队，但也只是分属于陆军航空兵和海军航空兵，而没有独立的空军。日本的海军和陆军，从服装颜色上很容易区别出来。而日本陆军各兵种的服装虽基本一致，但也可以从其佩带的肩章和领章的颜色上加以区分，如日本陆军步兵肩领章底色为红色，炮兵为黄色，骑兵为绿色，工兵为茶色，辎重兵为深蓝色，航空兵为天蓝色，宪兵为黑色，军医为深绿色，军法官为白色，财会官为银茶色等等。

1937年抗日战争全面爆发后，侵华帝国陆军陷入持久战的泥淖之中，其部队作战时间之长，损失耗费之巨，军以下基层部队序列不断变化，兵力消耗极大。1941年太平洋战争爆发后，日军战线再度拉长，兵员更加缺乏。南洋战场接连失利，其实力不断下降。日本天皇宣布投降后，帝国陆军分别于1945年8月下旬至l0月中旬在各地向中、美、英、苏、澳等盟国军队缴械投降，寿终正寝。