二战期间，日军的师团编制较为复杂。按照编制结构，前期分为四单位制和三单位制、战争后期分为甲、乙、丙、丁；按照马匹的配备分为挽马制师团和驮马制师团；按照编设的先后顺序可分为常设师团、特设师团、补充师团等；按照使用可分为治安师团、留守师团等。

日军的师团不管编制和人数的多少，师团长的军衔为中将。抗战初期，日军的17个常设师团编制为四单位制，总人数约为24000—28000，和同一时期国民党军一个军的人数相当。当时国民党步兵军一般下辖2—3个师，就连蒋介石的中央军步兵师多数也没有一万人，地方杂牌部队的师更是只有一万的半数，而日军的三单位制师团或后期的丁种师团，最少人数也有12000人。

国民党军的军长为中将军衔，一般资历较深的师长为中将，如第74军第57师师长余程万；其它的师长军衔为少将，如第5军第200师师长戴安澜。日军的师团不管是什么编制，其师团长的军衔都为中将。但是日军常设师团或甲种师团的师团长地位要高于其它师团长，日军七七事变后晋升为大将的绝大部分都担任过师团长职务且是甲种师团，如后来为日本陆军大臣的板垣征四郎曾经就担任过号称“钢军”的第5师团的师团长。