嘉靖二十二年（1543年）八月，因为山东临清州新城工程完成，曾铣升任都察院右副都御史，赏赐银三十两、纻丝二表里。

嘉靖二十三年（1544年）二月，明世宗命曾铣以原职提督雁门关等处，并兼巡抚山西。

嘉靖二十五年（1546年）正月，由于蒙古连续几年都没有犯边，朝廷认为是曾铣的功劳，进职为兵部右侍郎，依然负巡抚之任。

嘉靖二十五年（1546年）四月，明世宗命曾铣以原官总督陕西三边军务。蒙古十万多骑兵从宁塞营入侵，大肆侵掠延安、庆阳境地。曾铣率兵数千驻守塞门，又派遣前参将李珍捣毁马梁山北的蒙古大营，杀死蒙古兵一百多人。蒙古听说后，才开始逃遁。捷报奏上明世宗，赏赐他银币。既而蒙古多次入侵，游击高极战死，副总兵萧汉战败。曾铣上疏明世宗报告诸将的罪状，被按兵律罚治。当时河套蒙古在近塞放牧，零散骑兵往来，居民不敢樵采。曾铣正在修筑边塞，怕被他们扰乱，于是选精兵打击他们。蒙古逐渐退到北方，间或用轻骑入侵抢掠，曾铣又率领诸军将他们驱赶到远处。参将李珍和韩钦多有功劳，明世宗下诏增加曾铣的薪俸一级，赐银币有加。

曾铣向来喜好功名，又感到明世宗的知遇，更加想有所报达。考虑蒙古占据河套，长期成为明朝的边患，于是向明世宗上疏说：“敌贼占据河套，侵扰边疆将近百年。孝宗想收复而不能，武宗想征讨而没有实现，让吉囊占据作为巢穴。他们出河套则侵略宣、大、三关，以威震畿辅；入河套则入侵延、宁、甘、固，以扰乱关中。深山大川，形势有利于敌而不利于我。封疆之臣当中还没有对陛下说要收复河套的人，因为这是军兴重务；小有挫折损失，灾祸就会接踵到来，鼎烹刀锯，前后受刑。我并不是不知道兵凶战危，而枕戈汗马，切齿痛心已经有些日子了。私下曾谋划着这件事：秋高马肥，弓矢劲利，他们聚集而进攻我们，而我们则分散而防守，让他们占上风；冬深水枯，马无隔夜之粮，春寒阴雨，土地没有干燥的地方，他们的优势渐弱，我们利用这一时机，则中国占优势。我请求用精兵六万，加以山东枪手二千，每当春夏之交，携带五十天的粮饷，水陆交进，直捣他们巢穴。步骑齐发，炮火如雷激荡，则敌寇就不能支撑。这是一劳永逸的办法，万世社稷所依赖的。”于是逐条奏上八项建议。这时，曾铣与延绥、宁夏抚臣想在西起定边营，东到黄甫川的一千五百里中，修筑边墙防御蒙古的军队，请求金币数十万，打算三年完工。奏章一并下到兵部。部臣感到困难，请求下令诸镇文武将吏协议。明世宗下诏书告知说：“敌贼占据河套为患已经很久了，朕日夜惦念这件事，边臣没有分担主子忧愁的人。现在曾铣倡导恢复边疆的提议很壮烈，其令曾铣与诸镇臣子悉心研究方略，给予修边费用二十万两。”曾铣于是更加坚决。但诸巡抚延绥张问行、陕西谢兰、宁夏王邦瑞及巡按御史盛唐以为困难，长久不到一起会奏。曾铣大怒，上疏向明世宗请求，明世宗责备了诸位巡抚。等到张问行被罢后，杨守谦代替他，杨守谦的意见与曾铣相同，曾铣于是集合诸臣逐条奏上方略十八事，之后又献上阵营图八幅，明世宗以赞赏性的口气下旨让朝廷讨论。

廷臣看到明世宗的意思是向着曾铣，都与曾铣说的一样。明世宗忽然拿出亲笔诏书晓谕辅臣说：“现在驱逐河套逆贼，师出果真有名吗？士兵粮食果真有余，一定能够成功吗？一个曾铣何足道之，如生民荼毒怎么样？”当初，曾铣建议的时候，辅臣夏言想依靠他来立大功，因而极力主张这样做。这时听到这话，感到非常惊骇，请求明世宗自己裁决。明世宗下令刊发手诏，普遍发给参加讨论的诸臣。当时严嵩正与夏言有仇隙，想借此来搞垮夏言，于是极力言说河套一定不能收复。暗中诋毁夏言，故意引罪请求罢职，以便激怒明世宗。不久又明显攻击夏言，他说：“向来拟旨褒奖曾铣，我都没有事先听说。”兵部尚书王以旗会集廷臣复奏，于是全部与以前说的不一样，说河套不可能收复。明世宗于是派官逮捕曾铣，调出王以旗代替他；责怪科道兵不说话，一概在朝廷上用杖拷打，停发薪俸四个月。明世宗虽然恼怒曾铣，但是并不想杀他。咸宁侯仇鸾镇守甘肃时，因阻挠边事遭曾铣弹劾，被逮捕问罪。严嵩过去向来与仇鸾亲近。他获知曾铣的好友苏纲，是夏言继妻的父亲，苏纲与曾铣、夏言曾经往来通话，于是代替仇鸾狱中草就疏章，诬告曾铣掩败不奏，克扣军饷上万，并派儿子曾淳跟着他的亲信苏纲贿赂当权者。这种话绝对没有佐证验检，但明世宗深信他的话，立即将曾淳、苏纲下诏狱。给事中齐誉等人看见明世宗非常愤怒曾铣，请求早日将他依法处置。明世宗责怪齐誉党奸避事，降级调出朝廷任职。等到曾铣押到，法司将他犯的罪比拟边帅失陷城寨所犯的罪。

嘉靖二十七年三月十八日（1548年4月25日），明世宗依照法律正条，将曾铣以交结近侍（指结交皇帝近臣）的条律斩首，妻子流放二千里，即日执行刑法。曾铣死后，夏言也坐罪被斩，而仇鸾被释放出狱。曾铣廉洁，他死了以后，家里没有剩余的财产。

隆庆初年，给事中辛自修、御史王好问为曾铣辩冤说曾铣志在立功，身遭重法，无论是认识他的人还是不认识他的人，都沉痛悼念他。于是，明穆宗下诏赠官兵部尚书，谥号襄愍。

万历年间，明神宗听从御史周磐的请求，在陕西为曾铣建祠纪念。

曾铣总督陕西三边军务，曾多次击退入侵的鞑靼军队，屡立战功。

在与蒙古人的长期作战中，曾铣组建了一支五千人的精锐之师，号称“曾家军”。在人员选拔上，从各军中精挑细选，即便有小过，只要有特长的，也都予以重用。在武器配备方面，大量配备火车、地炮等“现代化”武器，实现了冷兵器与火器相结合，长武器与短兵器相结合，远可攻，近可守。在训练方法上，推崇以实战形式演练战阵之法，一日一小操，五天一大操，曾铣亲自教习队伍阵营布列、打放火器、击搏攻刺等方法，并实地考核检阅。

曾铣还首创了“装甲”战法。针对蒙古骑兵机动性强、冲击力大的特点，“曾家军”每营编制战马三千匹，战车二百辆，每战车配备火箭二百，大小连珠炮各一门，霹雳枪八杆，手把铳两支。两军对阵时，装甲战车环立布阵，步兵置于车旁，车上则是装机营士兵和弓箭手严阵以待。当蒙古骑兵冲锋时，明军战车上枪炮弓箭齐鸣。即便敌军到了战车前，也伤不了装甲战车丝毫，反被战车四周的士兵持长枪刺马足、挑骑兵，吃尽了苦头。

曾铣还创造了一种叫做“慢炮”的火器，其状似圆斗，内装火药和发火机巧，点燃后，火线燃烧一二个小时后才发射。面用五彩装饰。敌人捡到后，视为珍奇异物，聚集观看传玩的人很多。一会儿火药引发，死伤的人很多。

曾铣还是地雷的发明者。据史载，“曾”式地雷“挖一个深一丈多的坑，在里面藏上火药，用土块盖在四周，再盖上一层沙子，让表面看起来与地面一样平。在火药下面系上一根引火线，把引火线的一头拴在地面人不注意的地方。有人从这里经过，一旦踩上引火线，火药就会爆炸，飞石伤人”。

明世宗朱厚熜：山西巡抚都御史曾铣久在边方，劳绩优异。（《明世宗实录》引）

卢琼：公悯无辜之民横罹斮斫，不计生死祸福，以身任之，力请于朝而得免议。受公之恩，非直欲旦暮见公之容，而又使欲其子若孙皆知所自。礼以义起，古之道也。昔文潞公泽及天下，洛人生祀于资圣院；张文定弭盗一方，蜀人图像于益。辽之祸起于仓卒，深浅成败不可测，而文定自外入，又得伸缩自由，公视之大难也。而公才望日隆，安知不为潞公乎？（《石塘曾公生祠记》）

薛侃：又访得文臣中如曾铣、杨守谦、商大节、程鹏、朱方、张汉、王杲、孙继鲁八人，或志在立功，身遭重辟，或事存体国，罪累流亡，至今无问，知与不知，皆痛惜之。（《王阳明全集》引）

皇甫汸：君不见高帝兴师净朔方，我文亲亦御戎行。徵兵尽选三河少，校士争收六郡良。万骑旌旂纷蔽日，千群组练凛凝霜。骠骑积弩号将军，耀武宣威志立勋。阵前杀气骄难近，幄内奇谋秘莫闻。一朝受脤出萧关，百战长驱事马鞍。雪晦阴山乘夜袭，天横北斗向南看。按辔俄传劳细柳，飞书已报下皋兰。君王神武由天锡，都护材雄总无敌。长戈大剑耀星芒，昼仆旌旗夜夺壁。凿空开域路应赊，置亭列障遂踰沙。博望从来能许国，嫖姚自誓不言家。奏凯班师海海外，共贺黄图亘地界。铭功刋石纪龙飞，解甲韬弓罗虎拜。此时高会坐明堂，登歌献寿乐无疆。越巂探输陈异物，巴俞角抵尽来王。世变堪嗟己巳间，白登愁睹翠华还。不闻更上金城略，但教常闭玉门关。王者之宝在土地，辛苦成功可轻弃。先皇遗却平城忧，谋臣徒守珠崖议。百年慷慨有书生，每过湟中气不平。非求燕颔封侯易，翻思马革裹尸轻。不识忌讳尔何戆，可怜身死名俱丧。朱生肯讼伏波冤，魏文犹寝中山谤。只今边徼有烟尘，寄言韩相好和亲。纵使分麾思命将，不知投笔竟何人。（《河湟行·伤曾公铣也》）

徐阶、张居正等：铣有机略，初为御史，巡按辽东，会辽广宁、抚顺兵变，铣密运方略，悉捕首恶诛之，全辽大定，时论以为才。会虏患棘，因不次见擢，膺专阃之寄。然铣躁迫无经远，弘猷自负辽左功，谓天下事无难为者。其所注措，率多诞漫。（《明世宗实录》）

王世贞：曾铣者，故亦功名士也。（《嘉靖以来首辅传》）

刘伯燮：故总督曾铣、胡宗宪皆立功之臣。（《湖广通志》引）

张廷玉等：陈九畴、翟鹏、孙继鲁、曾铣皆可用之才，或谪或死，不以其罪。铣复套之议甚伟。然权臣当轴，而敌势方强，虽颇、牧乌能有为？（《明史》）

据《明史》记载，曾铣有胆略，擅长于用兵。有一年的除夕之夜，突然命令诸将出战。当时塞上没有警情，诸将刚刚准备酒席，不想出战，贿赂铃卒，叫他向曾铣的妻子求情推缓出战。曾铣将铃卒斩首示众。诸将不得已，半夜三更披甲出战。果然遇到敌寇，并将他们击败。第二天入贺完毕，诸将请问原因。曾铣笑着说：“发现乌鹊鼓噪得不是时候，所以才知道的。”诸将都很信服。

据《戒庵老人漫笔》记载，一次鞑靼人围困了曾铣镇守的城池，只见城门口立一高高木架，架上木偶载歌载舞，而全城却偃旗息鼓，没有一丝动静。此举引起了鞑靼人的警觉，于是便不敢贸然攻城。而士兵却感到好奇，纷纷聚集在一起观望，因而，一时人声嘈杂，纷乱不已。突然间，只听城中军号突起，架上巨炮先发，紧接着城楼各处火炮齐鸣，围观的鞑靼士兵被轰得落花流水。而这时，城内士兵又随之而出，斩获敌人无数。敌人不知道该怎样对付，只是称呼“曾爷爷”。

据《涌幢小品》记载，曾铣的仆从王环，系沧州回族人，虬髯黑脸，力气大，善骑射。曾铣闻其忠勇，招至帐下，让其教导兵士射箭。曾铣被捕入狱后，流泪托付他照顾妻儿，王环哭泣着应诺。曾铣被杀，妻儿流放陕西汉中的城固。王环用小车护送夫人与其二子从小路至发配地，白天为他们准备汤粥，夜里露宿在旅店外，几千里不曾懈怠。20年后，曾铣沉冤昭雪归葬江都。王环又将曾铣的妻儿护送回扬州，用金钱和丝绸答谢他，他却不理睬财物而离开了。曾铣可谓识士，托付得人；王环忠烈，义薄云天。

曾铣有《复套议》2卷行世。

曾铣故宅位于江苏省扬州老城区三元巷南侧的小三巷，昔名曾家垣。扬州梅花岭畔立“曾襄愍祠”。为纪念英雄，明代黄岩县城北建“曾铣节制三陲坊”，故居巷口建“三边总制坊”，巷名“曾铣巷”。