不久，蒋介石成立中央军校。陈铁被调到该校任军官团团长。1928年下半年，与卫立煌一起，为解决学历之困扰，考入陆军大学特别班深造。三年同窗，交情更加深厚。两人常在一起发牢骚，认为蒋介石在用人方面私心太重，只重用江浙人，对没有关系的人不能量才使用。

“九·一八事变”发生后，蒋介石感到高级指挥人才紧缺，电召陈铁等到南京，要其提前离开陆大特别班，仍到南京中央军校担任军官团团长。陈铁考虑还有两个月就要毕业，请求继续学习，得到蒋介石的同意。

1932年，陈铁从陆大特别班毕业，仍回中央军校任军官团团长。不久，调任卫立煌的第十四军第八十三师二四九旅旅长。次年，升迁为第八十三师副师长。奉命率部随第十四军，从浙江到安徽，向鄂豫皖根据地进犯。在黄安一带与红军激战两日，为红四方面军击败。随后，所部又作为第十四军主力，进犯士里坪，经过三天激战，双方陷入僵持状态。10月，红四方面军因张国焘等坚持执行“左”倾机会主义路线，逐渐丧失制胜权，被迫西进川陕地区。

11月，“福建事变”发生。陈铁所在的第八十三师，随第五路总指挥卫立煌，于1934年元月中旬到达顺昌，在沙县附近集结待命，参与镇压十九路军的作战。2月中旬，十九路军被迫沿公路向泉州方面撤退，第八十三师奉卫立煌之命进行截击。其第二四九旅在仙游南面与十九路军的侧卫部队张君嵩师遭遇，被打得落花流水，纷纷向后撤退，幸师的主力赶到，加上空军协同作战，才稳住阵脚。后尾追十九路军到达惠安县以南的洛阳桥，形成隔河对峙。这时，卫立煌拟乘虚袭击福州。陈铁深恐第八十三师孤军深入，会被十九路军吃掉，乃建议循闽江右岸出仙游、涂岭截击，得卫立煌的赞同。

“福建事变”平息后，第八十三师暂驻福建待命。不久，被调到安徽整训。

1935年8月，陈铁被蒋介石委任为第八十五师师长。这个师是由黔军第四十三军残部改编的，官兵多系贵州铜仁、松桃人。在鄂西板栗园隘道遭到红军伏击后，师长阵亡，内部权力争夺甚烈，蒋介石命令该师移驻四川万县整顿。陈铁一上任，一心想当师长的参谋长刘竹铭十分恼火，派出一个营驻守在师部周围，安排副官和勤务兵进行监视，并威胁说：“我们铺好的床，谁要来睡是不行的。”同时，又以“铜松系”相号召，令各营营长集合，进行发难，扬言说：“如陈铁继任师长，就要将部队拖走。”陈铁见处境艰难，即据情电报蒋介石。蒋命令宜昌行辕主任陈诚将刘竹铭逮捕，押送宜昌军法会审。因刘还私带毒品之罪遂被枪毙。

将刘竹铭处理后，陈铁即采取果断措施，除一个秘密揭发闹事内幕的营长外，其他参与策划的营长、团附一律关进万县监狱。经报请军事委员会批准，枪毙两个营长，其余的均判处徒刑。对那些跟随刘竹铭起哄的，也全部免职。通过三个多月的整训，该师编为三个团，其中级军官全部由黄埔学生担任，成了蒋介石的一支基本部队。

1936年春，陈铁率第八十五师移驻浦镇，奉命将原部队缩编为第二五三旅，以副师长陈弦秋任旅长；另增加皖军刘震清旅的第二五五旅，扩大成为拥有两旅四团的整编师。不久，进驻安徽蚌埠整训。

“七·七事变”爆发后，陈铁奉命率第八十五师经徐州进驻德州。经第十四集团军总司令兼第十四军军长卫立煌向军委会请求，第八十五师调驻保定，归入第十四军建制。这时，卫立煌率第九军和第十四军去北京南口增援汤恩伯的第十三军，留在门头沟西侧千军台防备日军截击后路的第八十三师一个团，伤亡甚大。陈铁闻讯后，立即率部前往接防，与日军接连几天激战，打退了敌人的进攻。

不久，陈铁率领第八十五师，随卫立煌调防山西，参加忻口战役。10月13日，日军以板垣第五师团和关东军第一、十二师团等部为主力，从大同南犯，企图进占太原。陈铁所部防守主阵地忻口，陈铁深知此战的险恶。部队进入阵地前，他号召全体将士拿出为国捐躯的精神，与日军决一死战。但李服膺所率第六十一军节节溃退，使第九军受到摧毁性打击后，日军径向忻口阵地猛攻。这时，陈铁奉卫立煌命令，将第八十五师的两个旅四个团建成核心防守阵地，左与晋军傅作义部队，右与第十四军的第十师、八十三师连成一气，共同防守。在战况紧迫时，陈亲自督战，鼓舞士气，多次击退日军的进攻。这时，由正太铁路向山西进犯的日军，突破娘子关，直趋榆次，威胁太原侧后。忻口守军为避免遭受敌人前后夹击之厄运奉命后撤，第八十五师经文水、交城向晋西北转移。

这次战役，陈铁的第八十五师与板垣师团激战了十天，致敌重大伤亡，而该师的兵员也损失三分之二，营、连、排长伤亡过半，代理团长刘眉生亦阵亡。战事结束时，陈铁抱着名册，清点全师兵员，见损失这么多官兵，部队战斗力在短期内难已复原，不禁痛哭起来。同时，又想起以往蒋介石对自己疑忌之事，遂申请辞职，不料蒋即复电嘉慰，另令在二线部队中抽调两个主力团补充第八十五师。

11月初，太原失守。陈铁率第八十五师在晋西蒲城、汾西等地区防备。12月，由晋西开到晋南平陆县、茅津渡补充整训。1938年1月，移防晋东南的闻喜、侯马等县。这些县介于太行山和中条山之间，与后方的交通联系很不方便。陈铁带领部队与敌人展开游击战。2月，配合第八十三师北上，对闻喜、侯马之敌发动袭击，夺回了县城，因无险可守，仍退入闻喜、垣曲山区，与日军进行游击战。

1938年6月，陈铁升任第十四军军长，率部驻防晋东南垣曲县、阳城县同的董封、上登坂山区。卫立煌的第十四集团军及第二战区前敌总指挥部也驻在垣曲城郊。当时，八路军总部驻在太行山西面的长治地区，与第十四军总部建立了密码通讯。朱总司令派秘书与陈铁取得联系。早在这年初，陈铁经卫立煌介绍，得与朱德总司令相识。这时，他与八路军总部进一步保持往来。

1939年的一天，卫立煌电召陈铁到渑池，介绍其与刘少奇会面。卫对陈说：“刘是化装去华北，带有延安的介绍信，要我们派人护送他通过太行山南面驻军庞炳勋的防地，这个任务委托于你。”并说：“若庞要为难，你就亲自去说服庞。”两人同去拜望刘少奇后，陈铁即同刘少奇一道渡过黄河，一直护送到河北。

年底，蒋介石掀起反共高潮。卫立煌接到有关命令后。赶到晋城召集军长陈铁、范汉杰、刘戡等开秘密会议，传达蒋介石的电话：“八路军超越规定的活动范围，要撤回上党地区。如不服从，卫即到晋城指挥部队威迫撤回。”传达后，命各军长作好准备待命。但当天夜晚，卫却私下对陈铁说：“团结抗战重要，不能同八路军公开磨擦，我已写信派人送给朱、彭总司令，要他们暂时撤回去。”并说：“这件事对范汉杰、刘戡要保密。”陈铁表示支持卫的行动。

卫立煌、陈铁与中共接触频繁，引起了蒋介石的疑忌，命令胡宗南密察此事。次年，胡给卫写信，提出两战区师级将领共建一个团结抗日小组织的建议。卫约陈铁商谈后，请其作为第一战区的代表，到西安与胡宗南面商。陈铁到西安后，接连几天被胡约去谈话。他见胡想从谈话中了解卫去延安的情况，就反击说：·“两党合作抗战，卫立煌兼有指挥和补给十八集团军的任务。为了合作得好，顺路走访延安，是表达两军的团结合作，互相协同作战，这是卫奉命指挥八路军的贵任，也是公开的秘密。据卫说：他也详函呈报委员长备案的。”胡虽然一时语塞，但终不能解疑，随后又问：“朱德几次到洛阳，几次同卫立煌密淡，你知道吗？”陈反问道：“既是密谈，我不知道，请问你是怎么知道的？”还说：“但我认为，如果真有，也是很平常的事。八路军是属于第二战区的部队，卫是第一战区司令长官又兼第二战区副司令长官，负责指挥晋东南的一切抗战部队，而十八集团军的经费和军用物资由洛阳战区长官部转发，需要接洽嘛！两党合作抗日是前提，怎能不会商呢？”使胡宗南很不愉快，在商谈两战区共建小组织问题时，胡坚持限于黄埔同学中的正式师长以上人员参加，但对卫立煌例外（卫不是黄埔学生）。陈铁则代表卫提出：“凡是属于两战区的少将军衔以上的都参加，不论是何学籍。”双方坚持己见，没有达成协议。

在这期间，陈铁指挥第八十五师在蒲掌一带，与侵占河南济源的日军激战七八天，粉碎了敌人打通垣曲与晋南运城日军联络浅的战役企图。接着，又命第八十五师进驻翼城以东地区布防，拦截企图窜犯阳城之敌。

1940年5月，翼城和晋城之敌从东西两个方向夹击阳城。他指挥八十三师和八十五师协同作战，与来犯之敌相持十余日，最后将敌击退。年底，率第十四军渡过黄河，进驻临汝县境，防备日军进犯洛阳。

1941年初，其第八十五师调到渑池，以一部守备河防；第九十四师仍驻守垣曲地区。这年5月，日罕五万余人分三路向中条山进犯，其中路由晋南县东次垣曲，攻势猛烈。陈铁即命第八十五师派第二五三团、二五四团北渡黄河，增援垣曲以北的第十四军九十四师和刘茂恩的第十五军。但未等第二五三团渡河完毕，前线部队已溃退下来，结果两个团被日军包围在黄河北岸，孤立无援，苦战一昼夜。第二五四团团长欧阳鹏、副团长陈新民和第二五三团副团长张祖农阵亡，仅第二五三团团长陈德明率少数部队突围返回南岸驻地。

抗战胜利后，何应钦电召陈铁去重庆，委他为孙渡的第一集团军副总司令。1946年夏，陈铁随第一集团军到东北，参加内战。1948年1月，蒋介石正式成立东北“剿总”司令部，陈任副总司令。1949年1月，陈铁奉令到贵州遵义成立第八编练司令部。同年11月通电率部起义。

新中国成立后，陈铁任西南军政委员、农林部长、国防委员公委员等职、并当选为第二、三、四、五届全国政协委员和贵州省第一、二、三、五届人大代表。先后担任省人民政府副省长和第一、二、三届省政协副主席、贵州省林业厅厅长。1980年，他再次当选为贵州省人民政府副省长。

1982年2月19日，陈铁因病在贵阳逝世。