1937年4月，陆军交辎学校的战车营与交二团的装甲汽车，南京郊外的方山合编为陆军装甲兵团，直属军政部，又因为战车营原属交辎学校，故装甲兵团归陆军交辎学校管理。团长杜聿明（交辎学校学员队少将队长），辖：
战车营：营长胡献群上校，辖3个战车连、1个汽车补给连
搜索营：营长萧平波，辖3个连。
准备营：营长刘介辉
战防炮营
补充营
通信排
特务排
卫生队
修理工厂
1937年8月由团长亲率战车营第一、二两连及战防炮营参加八一三淞沪会战，在汇山码头阻击日军登陆，达成任务。1937年12月8日战车第一连（配备德制克虏伯战车15辆）参加南京保卫战，中被敌击毁三辆战车，其余在撤退中油料耗尽全部被遗弃。
1938年1月，装甲兵团（团长杜聿明）在湖南湘潭扩编为国民革命军第200师，为当时国军唯一机械化部队，当时世界上第四个装甲师。接收了从广州卸船运来的的苏联T-26坦克82辆（重九吨半，45mm主炮，机枪2挺，车载电台）、德国毫须装甲汽车（Sd.Kfz.222）18辆、奔驰柴油卡车40多辆、美式福特4缸卡车400多辆、意大利寸达浦机器脚踏车40多辆。师长杜聿明，副师长邱清泉，苏联顾问高尚夫（坦克兵顾问组长彼得·德米特里耶维奇·别洛夫少校）。首任师参谋长为彭璧玉少将，3月改为廖耀湘少将。总翻译是李修业。3月，首批40辆T-26与苏联顾问和教员到达湘潭，当时还有10辆T-26已到昆明，32辆尚在运送途中。1938年8月前基本组建完成。辖：
第1149团：团长胡献群。战车团。第1、第、第3营为T-26坦克；第4营为原装甲兵团。驻地湘潭云桥湖
第1150团：团长韩增栋。战车团。起初驻湖北武昌，武汉会战时迁至湘潭七里铺
第1152团：团长高吉人。步兵团。由原装甲兵团的准备营扩编而成。辖4个营和一所修理厂，第一、二、三营为步兵营，第四营为汽车运输营，没有坦克。
辎重兵营：营长杜鸿范。装备奔驰卡车
通信营：营长刘农畯
特务营：营长张信卿
搜索营：营长萧平波。第二连为德国毫须装甲汽车（Sd.Kfz.222）
化学兵连
战防炮营
工兵营
补充营
准备营
修理工厂：厂长李恩叙
炮兵第52团（战防炮团）：由战防炮教导队改编而成。团长冯尔骏。苏罗通炮。派往第五战区参加台儿庄战役。
技术补充团：1938年7月补充营与准备营合并。
1938年10月由第二百师抽调部分军官加上湘赣军管区的新兵组建而成，在湖南湘潭组建新编第22师，首任师长是毕业于黄埔军校第二期工兵科的邱清泉。
1938年11月1日第200师在湖南湘潭扩编为新编第十一军，军长是被誉为国民革命军装甲兵之父的机械化学校教育长徐庭瑶，杜聿明中将升任副军长兼第200师师长，黄翔少将为军参谋长，辖第200师、新22师。移驻广西全州。1939年1月，徐庭瑶辞任军长，由杜聿明升任，苏联顾问为别洛夫；下辖：
第200师：原属第1152团的3个步兵营与补充团改编为两个步兵团，番号改为第1149与第1150团，另外新成立步兵第1151团；1938年12月，杜聿明专任副军长，步兵第98师副师长戴安澜少将升任第200师师长。
新编第22师：师长邱清泉少将，副师长廖耀湘少将，驻湖南东安
第77师。湘军杂牌，1939年1月第77师改隶国民革命军第七十三军，将国民革命军第八军编制下国民革命军荣誉第1师移编给新十一军。
荣誉第一师：师长郑洞国，驻湖南零陵。1939年1月调入新11军。
军属装甲兵团：原属第1149与第1150团的4个战车营合编，团长胡献群上校，编制上仍为4个战车营和一所修理厂（总务、修理和器材3个股）；2个运输坦克的输送连（总计128辆7吨载重车），工兵连（烟幕伪装与爆破排，驾驶排，筑路排和材料排）、通信连（4格通信排）、特务连（侦察排、战车排、警戒排和传令排）、补充连、卫生队和修理工厂各一；每个战车营下辖3个战车连，补给连（燃料排、弹药粮食排和预备车排）、侦察排、特务排和修理所各一；每个战车连有3个战车排1个补给排。
军属汽车兵团：原属第1149与第1150团的各自的第三营与原第1152团第四营合编，团长韩增栋上校，编制上仍为3个汽车营和一所修理厂；
军属骑兵团：原200师属搜索营在增加一个重武器连和一个骑兵连后扩编为，团长萧平波上校。驻重庆白市驿机场。团本部有军官31名，士官和士兵61名，11辆车（其中有至少1辆Sd.Kfz.223型装甲通信指挥车）。团部辖5个连，以及通信排、辎重排、特务排和修理工厂各一。第一连为装甲汽车连，连部辖3个排和1个修理班，装备4辆Sd.Kfz.222型和10辆Sd.Kfz.221型装甲车，编制上共有军官13名，士官和士兵138名，39辆车；第二连装备4辆德制装甲车，以及原先搜索营第二连的两轮摩托车；第三连与原先搜索营第一连相同；第四连为重兵器连，配置与当时德军标准的师属侦察营重兵器连相同，由一个迫击炮组，一个3.7cm Pak 反坦克炮排，一个工兵排等单位组成；第五连为传统的乘马骑兵连。
军属重迫击炮团
军属工兵团
军属辎重兵团
军属补充团
军属战防炮营
军属通信营
军属特务营
1939年8月18日新十一军正式更名为国民革命军第五军，副军长由荣一师师长郑洞国兼任。
1939年11月，第五军装甲兵团第三、四营在河南兰封、信阳等地对日军作战后，奉命移防陕西西安，在华阴、朝邑、大荔一线充实黄河河防，防范日军从晋西南强渡黄河。团长郭彦。
1939年底时，编制为：
军长：1939年6月5日，俞济时任第5军军长（仅任职14天），杜聿明任副军长代理军长 。副军长刘家树/郑洞国。
第200师（师长戴安澜）为普通的步兵师。该师军歌《义勇军进行曲》为师长戴安澜指定的，为日后的中华人民共和国国歌。
第600团：团长邵一之。率先由摩托化运输，从衡阳驻地赶到南宁与日军交战，1939年11月24日该团撤出南宁。团长阵亡。
辎重兵营，营长冯少云
荣誉第1师（师长郑洞国）
新编第22师 师长廖耀湘
装甲兵团：团长马辙
骑兵团：团长萧平波
辎重兵团：团长杜鸿范
汽车兵团
战防炮团
特务营
通讯营
军医院
修理工厂
子弟学校
成衣（家属）工厂
酒精厂
印刷厂
主条目：昆仑关战役
1939年12月底至1940年初，华南发生桂南会战，第五军担任昆仑关战役主力以重大伤亡夺回昆仑关。由于昆仑关战役损失较大，第五军装甲兵团第一、二营（战车第一、二、五、六、七连）共有7名军官和38名士兵阵亡。参战坦克总共54辆，1940年1月7日的〈陆军第五军装甲兵团昆仑关战役损坏车辆报告表〉记录的具体损失为：完全损失4辆T-26（车号528、546、581、583）和4辆CV35（车号736、787、804、807，其中736和807因陷敌阵被日军俘获）；被敌炮击伤而后修复11辆T-26和5辆CV35。
1940年4月，荣誉第1师遭抽调成立新的新编第十一军，由第五军副军长郑洞国升任。荣1师的空缺由国民革命军第三十六军之第96师抽调补充，此时，该军军长杜聿明，副军长邱清泉，刘嘉树，下辖第200师、新编第22师、第96师，另统帅部炮兵两个营。1940年8月，军政部将第五军装甲兵团第一、二营和团直属部队合编为装甲兵第一团，仍隶属于第五军军部，团长胡献群少将，编制装备不变。至此，该团进入较平静的一年半休整期，直到1942年远征缅甸；将第三、四营和第五军军属修造厂西北分厂等单位合编，于1940年10月1日正式成立装甲兵第二团，驻地大荔，直接隶属于第34集团军（原第17集团军扩编而成），团长为原第五军西北战车指挥官郭彦上校。
1941年12月，日军偷袭珍珠港，随后进攻缅甸，企图切断中国唯一对外之陆上补给线。国民政府应英国之请于12月底起派出第五军、第六军及第六十六军为远征军第一路军共计10万余人入缅甸。当时第五军下辖200师、新编第22师（师长廖耀湘）、96师（师长余韶）。杜聿明任远征军副司令长官兼第五军军长。第五军率领3个步兵师进入缅甸。军属装甲兵团由昆明驻地出发，公路行军，由于滇西公路弯曲，大型拖车不能通行，将T-26战车分解用卡车装运；于1942年3月20日通过畹町进入缅境，分解的八台T-26战车在腊戍组合安装，小型战车由腊戍铁运，汽车则公路急行军赶赴缅南。3月29日，以两个连（各七辆战车）协同步兵部队新编第22师（师长廖耀湘）对日军作战。因战局丕变，装甲兵团旋即沿滇缅公路后撤，与追击日军进行迟滞作战，最后在腊戍至畹町间的贵街达成迟滞任务后，即经畹町返回国境内4月30日至遮放。日军攻入滇西，国军破坏怒江惠通桥，以致装甲兵团未能全部撤出，最后仅战车、汽车四十七辆返回昆明阳林整补。所幸T-26战车仅八辆运至腊戍组合安装完成遭损失外，其余则尚滞留在保山而安全运回。
第五军相继参加了同古保卫战，彬文那会战及仁安羌救援，曼德勒会战。由于英军迅速溃退，中国军队陷入日军包围。5月8日上午，日军攻占密支那，指挥官杜聿明按蒋中正7日的命令，下令部队经退回云南。第五军军部与所属部队和新编第22师在军长杜聿明率领下，翻越了野人山地区，于1942年7月25日抵达印度雷多。第二百师在东枝作战后，在向八莫、南坎转移途中受到日军伏击，伤亡巨大，戴安澜师长重伤阵亡，师参谋长及第599，600两团团长均在此次突围中失踪，余部由第598团团长郑庭笈率领于1942年6月17日抵达腾冲地区，此时全师仅剩余2,600余人，伤亡失踪达75%以上。第九十六师及军属炮兵、工兵各一部与军部失去联系，在师长余韶带领下，在野人山地区辗转两个多月，翻越高黎贡山，于1942年8月17日抵达中国云南剑川。第五军入缅作战时动员约4.2万人，回国后仅存约2万人，在远征军参战部队中伤亡最为惨重。装甲兵第一团的人员伤亡无详细记载，T-26坦克原有47辆，战斗和撤退总损失11辆，其中战斗过程记载了10辆损失。
缅甸战役撤退后，第五军军部残馀部队以空运运回中国境内，与撤退回国之部队会合。新22师则留在印度，被编入中国驻印军，编制空缺由国民革命军第六十六军所属之新编第39师移编补足。此后第五军主要任务为昆明防御与云南国境守备，并在1943年3月纳入Y部队第一批改编计画，开始接收美援军械与美式操练。第五军并未参加滇缅反攻作战，而是作为战略预备队的角色在后方整训。
装甲兵团撤回国内，该团担任训练补充工作的战车第三营驻防广西全州界首镇，其余各部于8月起在昆明郊外的嵩明、杨林和猪衙集中整训，开办驾驶、射击、保养、通信、战场抢救、步坦协同战术等训练班。1942年9月，团长胡献群少将升任第96师副师长，由战车第二营营长马彻中校继任装甲兵第一团团长。1943年春，军政部令于昆明成立战车补充兵训练处（处长马师恭），专为驻印军战车部队训练补充兵员。
1943年1月28日杜聿明升任第五集团军总司令，军长由邱清泉接任。刘嘉树、彭壁生、余韶、梁恺等相继担任过该军副军长。新39师与国民革命军第六军所属之第49师互相对调。1943年3月，国民政府军事委员会鉴于第五军1942入缅作战期间损失过大，在美国顾问的策划协助下，将该军所属部队重新编组，以便接收美援装备。第五军直属的各机械化团、营、连级部队被调出，与摩托化步兵第143团和第144团合编，在嵩明县成立直接隶属于军政部的第48师，由郑庭笈少将任师长。辖2个步兵团与1个搜索团（第五军骑兵团，团长冯恺/冯少云）。原第五军装甲兵第一团改番号为第48师第142团，团长为马彻上校，人员和装备编制不变。第143团团长苏维中，第144团团长田鹗云。1945年7月间撤销，搜索团编入第五军装甲兵团，第142团番号改回装甲兵第一团直接隶属于军政部，2个步兵团编入第五军各师。
1944年1月，第五军移拨部分军士官干部与特务营成立伞兵第一团的服务连与特务连，并派干部前往衡阳、桂林、柳州、贵阳招考兵力，伞兵团长为第五集团军作战处处长李汉萍将军（黄埔六期），副团长是集团军司令部科长简立上校。
1944年3月，军政部成立陆军第48师，装甲兵团改隶第48师，并改番号为142团。自此，装甲兵与第五军脱离隶属关系。
1945年初，新编第39师解编，调播国民革命军第二十七军隶属之第45师编入第五军，并纳入阿尔法部队换装计划，拨发美国军援武装。由于200师长期担任云南国境防御作战，因此在1945年4月统计时，其装备领取美械比例仅10%，远低于45师与96师的80%。因整训需求，因此直到8月中日本投降时仍在昆明驻防。