第一次世界大战后，随着坦克的出现和普及，很多坦克使用理论也是层出不穷。军队中坦克部队的编制也越来越大，到二战之前德军、法军
英军和苏军都已经有了装甲师、机械化师的编制。但随着
第二次世界大战的爆发和
装甲部队集中使用的“
闪电战”理论的出现，装甲师、机械化师和摩托化师已经不能满足战争的需求了。装甲军的编制已经呼之欲出了，装甲军的编制主要出现在德军和苏军的编制中。二战中虽然德军和苏军都出现过装甲军或机械化军的编制，但双方的力量则不能相提并论。
德军的装甲军最早出现在1939年西线战场，当时“闪电战”理论的提出者古德里安（二级）上将被任命为国防军第十九装甲军军长。其指挥该军在
波兰和随后的法国战场上所向披靡。当时的德军装甲军一般由2到3个装甲师或摩托化师组成，坦克数量一般在600-800辆（一个装甲师大约有324辆坦克）。到了1941年德军为了在不增加坦克数量而增加装甲师数量时，将原有的装甲师的坦克数量一分为二。这时的装甲军（当时将装甲军改称摩托化军）还是下辖两个装甲师或摩托化师，坦克数量一般维持在350辆左右。1941年以后随着德军在
莫斯科会战中的失利，损失了大量的技术装备。这时的装甲师正常情况下一般只能维持在80到100辆坦克（标准是152辆），所以装甲军的坦克数量也就下降到不足200辆。到了1943年随着古德里安上将出任装甲兵总监后，德军装甲师的力量得到了一定的回复。这时德军一个标准编制的装甲军一般能达到324辆以上。1944年以后到1945年战争结束，随着战局对德军越来越不利，战场上的损失也越来越大，装甲军的编制也出现了改变，当时由于战局不断变化，虽然标准装甲军依旧下辖两个装甲师，但部队很难达到齐装满员，这时的装甲军一般由一个装甲师混编一个装甲掷弹师或步兵师，有的甚至没有装甲师而只有步兵师（徒有装甲军之名）。坦克数量也都不等。1942年
武装党卫军成了自己的装甲军，当时没有番号只称武装党卫军装甲军（后来改称武装党卫军第二装甲军）军长
保罗·豪塞尔党卫军上将。下辖
党卫军第一装甲师（
阿道夫·希特勒卫队装甲师）、
党卫军第二装甲师（
帝国师）和
党卫军第三“骷髅”装甲师。当时全军有坦克344辆坦克和63辆
突击炮。随后又成了武装党卫军第一装甲军、武装党卫军第三装甲军和武装党卫军第四装甲军。由于各个武装党卫军装甲军要随时充当战场“消防队”的角色其坦克数量一般要多于国防军装甲军。而二战结束后联邦德国陆军将装甲部队取消了装甲军的编制，装甲部队的最高编制定格为装甲师。