第2軍編成時師團(tuán)戰(zhàn)斗序列為：
第2軍　　司令官　西尾壽造　中將　　　　　　　　 參謀長　鈴木率道　少將
　　　第10師團(tuán)　　師團(tuán)長　磯谷廉介　中將

　　　　　　　　　參謀長　梅村篤郎　大佐

　　　　步兵第8旅團(tuán)　　旅團(tuán)長　長瀨武平　少將

　　　　　第39聯(lián)隊　　聯(lián)隊長　沼田多稼藏　大佐

　　　　　第40聯(lián)隊　　聯(lián)隊長　長野義雄　大佐

　　　　步兵第33旅團(tuán)　　旅團(tuán)長　田島榮次郎　少將

　　　　　第10聯(lián)隊　　聯(lián)隊長　赤柴八重藏　大佐

　　　　　第63聯(lián)隊　　聯(lián)隊長　福榮真平　大佐

　　　　騎兵第10聯(lián)隊　　聯(lián)隊長　桑田貞三　中佐

　　　　野炮兵第10聯(lián)隊　　聯(lián)隊長　谷口春治　中佐

　　　　工兵第10聯(lián)隊　　聯(lián)隊長　須麿學(xué)之　大佐

　　　　輜重兵第10聯(lián)隊　　聯(lián)隊長　前野四郎　大佐
第10師團(tuán)通訊隊、衛(wèi)生隊、第1、2、3、4野戰(zhàn)醫(yī)院

第16師團(tuán)　　師團(tuán)長　中島今朝吾　中將
 
　　　　　　　　　參謀長　中澤三夫　大佐
 
　　　　步兵第19旅團(tuán)　　旅團(tuán)長　草場辰已　少將
 
　　　　　步兵第9聯(lián)隊　　聯(lián)隊長　片桐護(hù)郎　大佐
 
　　　　　步兵第20聯(lián)隊　　聯(lián)隊長　大野宣明　大佐
 
　　　　步兵第30旅團(tuán)　　旅團(tuán)長　佐佐木到一　少將
 
　　　　　步兵第33聯(lián)隊　　聯(lián)隊長　野田謙吾　大佐
 
　　　　　步兵第38聯(lián)隊　　聯(lián)隊長　助川靜二　大佐
 
　　　　騎兵第20聯(lián)隊　　聯(lián)隊長　笠井敏松　中佐
 
　　　　野炮兵第22聯(lián)隊　　聯(lián)隊長　三國直福　大佐
 
　　　　工兵第16聯(lián)隊　　聯(lián)隊長　今中武義　大佐
 
　　　　輜重兵第16聯(lián)隊　　聯(lián)隊長　柄澤畔夫　中佐
 
　　　　第16師團(tuán)通訊隊、衛(wèi)生隊、第1、2、3、4野戰(zhàn)醫(yī)院、兵器勤務(wù)隊
 
　　　第108師團(tuán)　　師團(tuán)長　下元熊彌　中將
 
　　　　　　　　　 參謀長　鈴木敏行　大佐
 
　　　　步兵第25旅團(tuán)　　旅團(tuán)長　中野直三　少將
 
　　　　　步兵第117聯(lián)隊　　聯(lián)隊長　高樹嘉一　大佐
 
　　　　　步兵第132聯(lián)隊　　聯(lián)隊長　海老名榮一　大佐
 
　　　　步兵第104旅團(tuán)　　旅團(tuán)長　苫米地四樓　少將
 
　　　　　步兵第52聯(lián)隊　　聯(lián)隊長　中村喜代藏　大佐
 
　　　　　步兵第105聯(lián)隊　　聯(lián)隊長　工藤鎮(zhèn)孝　大佐
 
　　　　騎兵第108大隊　　大隊長　后藤甲子郎　中佐
 
　　　　炮兵第108聯(lián)隊　　聯(lián)隊長　今井藤吉郎　中佐
 
　　　　工兵第108聯(lián)隊　　聯(lián)隊長　江島常雄　少佐
 
　　　　輜重第108聯(lián)隊　　聯(lián)隊長　粕谷留吉　中佐
 
　　　　第108師團(tuán)通訊隊、衛(wèi)生隊、第1、2、3、4野戰(zhàn)醫(yī)院、兵器勤務(wù)隊、病馬場

1937年8月野戰(zhàn)重炮兵第6旅團(tuán)調(diào)華北，隸屬第2軍，旅團(tuán)長澄田賚四郎，轄野戰(zhàn)重炮兵第13聯(lián)隊、野戰(zhàn)重炮兵第14聯(lián)隊。1937年11月調(diào)淞滬戰(zhàn)場編入第10軍序列。
以后日軍第3、13、14、109師團(tuán)、獨(dú)立混成第5旅團(tuán)、野戰(zhàn)重炮兵第5旅團(tuán)都曾加入過該軍的序列。
1937年9月野戰(zhàn)重炮兵第5旅團(tuán)編入上海派遣軍，在第2軍序列參加武漢會戰(zhàn)，后直屬華中派遣軍，旅團(tuán)長內(nèi)山英太郎。
1938年9月底第3師團(tuán)(師團(tuán)長藤田進(jìn),轄步兵第5旅團(tuán)（步兵第6、68聯(lián)隊）、步兵第29旅團(tuán)（步兵第18、34聯(lián)隊）及野炮兵第3聯(lián)隊等）在第2軍編成內(nèi)參加武漢會戰(zhàn)之潢川方向戰(zhàn)斗；后轉(zhuǎn)隸第11軍參加1939年5月隨棗會戰(zhàn)之隨縣作戰(zhàn)。

1938年6月第13師團(tuán)(師團(tuán)長荻洲立兵,轄步兵第26旅團(tuán)（步兵第58、116聯(lián)隊）、步兵第103旅團(tuán)（步兵第65、104聯(lián)隊）及山炮兵第19聯(lián)隊等）編入第2軍，武漢會戰(zhàn)時自合肥沿霍山一線攻擊；1938年12月因第2軍司令部調(diào)回日本而轉(zhuǎn)隸第11軍
1938年6月,第1軍第14師團(tuán)(師團(tuán)長土肥原賢二,轄步兵第27旅團(tuán)（步兵第2、59聯(lián)隊）、步兵第28旅團(tuán)（步兵第15、50聯(lián)隊）及野炮兵第20聯(lián)隊等)隸屬第2軍，1939年9月調(diào)回日本
1937年9月11日,第109師團(tuán)(師團(tuán)長山岡重厚,轄步兵第31旅團(tuán)（步兵第69、107聯(lián)隊）、步兵第118旅團(tuán)（步兵第119、136聯(lián)隊）及野炮兵第109聯(lián)隊等）抵達(dá)天津配屬第2軍；1938年12月因第2軍司令部調(diào)回日本,第109師團(tuán)在山西省負(fù)責(zé)治安作戰(zhàn)任務(wù)。1939年9月調(diào)回日本，1939年12月24日撤編。

1938年2月在天津編成獨(dú)立混成第5旅團(tuán)(旅團(tuán)長秦雅尚)隸屬第2軍。后隸屬第12軍駐防青島。

2.第2軍
1942年7月4日，在中國東北延吉重建第2軍，屬日軍第1方面軍，首任司令官為上月良夫中將，參謀長為磯矢五郎大佐，下轄第71師團(tuán)(師團(tuán)長遠(yuǎn)山登)、第9國境守備隊（1941年12月組建,駐琿春五家子，隊長伊藤鍬次郎）；獨(dú)立重炮兵第7大隊。1943年10月30日，日軍第2軍司令部調(diào)往荷屬東印度群島，軍司令官為豐島房太郎中將，參謀長為藤冢止戈夫少將，下轄日軍第5、32、35、36師團(tuán)、獨(dú)立混成第57、128旅團(tuán)、海上機(jī)動第2旅團(tuán)、第10歩兵團(tuán)、第4工兵隊。屬日軍北澳大利亞第2方面軍。1945年6月30日成為南方軍直屬部隊。9月9日，該軍司令官豐島房太郎中將率部在印尼的摩羅太島上向澳大利亞軍隊投降。

第2軍編成時師團(tuán)序列為：
第2軍 司令官 上月良夫中將，參謀長磯矢五郎大佐
第71師團(tuán) 師團(tuán)長 遠(yuǎn)山登中將
歩兵第87聯(lián)隊聯(lián)隊長  中村敏夫大佐

歩兵第88聯(lián)隊聯(lián)隊長 下河邊憲二大佐
歩兵第140聯(lián)隊聯(lián)隊長  竹內(nèi)主計中佐