日军的军事编制是参照旧德国陆军，别出心裁的构建了分队、小队、中队、大队、联队、旅团、师团的编制体系，并仿效一战美军师的庞大火力与人数，在二战时从结构到规模都显得与众不同。日军一个甲级师团大概有三万人左右，而二战时期国军一个军（中央军）大概有三万人。所以日军一个师团相当于我军一个军。

日本的师团长是中将军衔这点是不变的，而不容易确定的是日本师团的编制。旧德国陆军编制则源自文艺复兴时期方阵步兵编制，而文艺复兴时期方阵步兵编制则参考了古罗马共和国末期凯撒军团方阵步兵编制，由两个百人队(排，同时也是文艺复兴时期的一个方阵的边长)组成分队(连)，三个分队组成大队(营，同时也是文艺复兴时期的一个方阵)，五个大队组成军团(团)，一个罗马人军团和一个盟邦人军团组成联合军团(旅)，两个联合军团组成执政官军团(师)。随着文艺复兴时期长枪方阵战术被步枪所淘汰，下层编制也进行了调整，但是团以上的编制依然是罗马军团二二制未作改变。法国大革命后，各国开始启用义务兵役制，军队数量急剧扩大，才开始有了定制的军、集团军、方面军等更高一级的编制。第一次世界大战后，英苏美德法相继改用三三制编制，也就是从班到军，全部由三个组成更上一级。而日本因为主要对手是依然使用旧德国陆军编制的国军，在二战后，只是在部分与共军（八路军、新四军抗战后很快从二二制改回了三三制）交火的区域新建了三三制的警备师。

事实上，与二战时世界上绝大多数国家（包括中国）采用的班、排、连、营、团、旅、师体系和不到2万人的规模不同，日军别出心裁的构建了分队、小队、中队、大队、联队、旅团、师团的编制体系和接近3万人的规模，从结构到规模都显得与众不同。一战末期，美军参战的强大火力配置、重视工兵和辎重后勤的28000人编制师显示了强大的突破德军13000人编制师防线的能力，而日军的主要目标中国军正是普遍采用13000人编制师。因此日军进一步扩大师团的规模，并参考美军先进的“每个师，平均一个班一挺轻机枪、一个排一挺重机枪、一个连一门迫击炮/步兵炮、一个营四门大炮、一个团六门重炮”的火力配置理念，除了大口径重炮因不能国产化而不能加入编制外，日军基本改成了一战美军编制，除了基层保持旧德军的“一个连三个排、一个排三个班”与一战美军的“一个连四个排、一个排四个班”不同，而导致全师人数少于一战美军师。中国军在抗战前进行的整编也是接近这个火力配置标准，但因重火力不足而总人数只能接近一战中期的德军编制。美军则是参考一战前的巴尔干战争中，罗马尼亚、保加利亚、塞尔维亚三国24000人编制师强大的突破土耳其12000人编制师阵地的能力，日军也参照了三国在巴尔干战争中通过迅速动员预备役，将一个师的人数迅速翻倍的经验，在抗日战争中，也是通过类似的迅速动员预备役，将一个师的人数迅速翻倍为近3万人。