瓦剌失败以后，蒙古族的另一支鞑靼部兴起。它的统治者分别是在明代宗景泰年间和复位后的明英宗天顺时期的索来、毛里孩、明素宗弘治、明武宗正德时的达延汗、明世宗嘉靖时的俺答汗都经常率兵入内地掠夺，杀掳居民，使北方地区生产遭到破坏。这样迫使明朝政府再次修筑长城，以固边防。第二次大修延绥边墙是在明宪宗成化年间，这次才把榆林一带的长城由点连接成了线。

在成化时期，鞑靼各部落频繁入侵延绥各地，它们主要有：阿罗世、满鲁都、迎思兰、索罗忽、毛里孩等。它们或东或西，出没无常，连年不断犯境。成化元年（1467年）九月，阿罗世、迎思兰、索罗忽、毛里孩连续数次侵犯榆林塞。成化三年（1447年）七月，阿罗世入侵榆林塞。成化四年（1468年）十一月，毛里孩大举进犯延绥。同年十二月，迎思兰再犯榆林塞。成化六年（1468年）十一月，阿罗世直入延绥车路。这样连续不断的入侵，使延绥各地长期鸡犬不安，民无宁日，社会生产遭到极大破坏。

成化八年（1472年）三月，余子俊以副都御史巡抚延绥，将延绥镇的镇治由绥德迁到榆林。镇治迁来榆林后，大大有利于对蒙古骑兵入侵的防御。余子俊还拓展了延绥镇城，增加了卫兵，设置了攻守器械。同年的七月，他亲率明军击败了入侵的迎思兰，初步巩固了镇治的防守。

据《延绥镇志》记载，成化十年（1474年）润六月，为加强防卫能力，余子俊率军四万，仅用三月就修补和增筑了东起清水营（今府谷清水）西到花马池（今宁夏回族自治区盐池县）全长一千七百华里（一说一千四百里）延绥边墙；又构筑了黄甫（今府谷皇甫川）以西至定边营一千二百余里的墩台都互能相望，横截了河套入内地之口，还遇山铲削，逢谷填堑，阻挡了蒙古骑兵的长驱直入。

延绥长城三十六营堡到成化年中期基本全部告成。边墙内外墩台烽隧东西衔千余里，声应乞求，遂互有联络，这段长城才由点连接成为线。

余子俊经营延绥二十余年，整边备，扩充兵员，使延绥镇防守能力大大加强。有很长一段时间，蒙古人不敢轻易越边南下，军民相安，蒙汉出现了和谐气氛，延绥边境各处开始了蒙汉互市。余子俊可以说是明朝时期延绥镇巡抚中最有政绩的一人。

从《延绥镇志》、《榆林府志》的记载中可以看出，从明孝宗弘治年到明神宗万历年的百余年间，明朝与鞑靼各部落的战争虽然时起时伏，但始终都在威胁着明朝的政权。为此，正德十三年（1518年）十一月，明武宗亲自巡视延绥等各镇的军备防务。

明穆宗隆庆年间，明朝军事力量较为强大，使鞑靼部俺答汗掠夺野心有所收敛，表示愿意与明朝言和，希望和内地开展互市。1571年（隆庆五年），明政府答应俺答“封我为王，永长北方”的请求，封他为顺义王。就在这一年的九月间，延绥镇的镇城以北十里的红山（今红石峡顶上），明朝政府也允许河套蒙古人来此处互市。俺答封王后，与其妻三娘子在今内蒙首府呼和浩特市修筑城廓和板升（房屋），明朝政府扬名为”旧化’，后更名为“归绥”，今名“呼和浩特。

第三次修筑延绥边墙是在万历年间。在隆庆年间也对一些边墙作了部分的加高。

隆庆时期，蒙古族鞑靼部对整个北方边境的入侵只是稍有收敛，并非停止。在延绥的蒙汉战争仍然不断。明朝到了神宗万历时期，蒙古族各部对明朝的威胁已逐渐成了强弩之末，满族（后金）的威胁反而开始露头。但明政府继续在延绥加修长城的目的还是为了防御蒙古各部的入侵。因此万历六年（1578年）大张旗鼓地重修沿边各诸堡和墩台，并砖砌了一些大堡城的牌墙。在镇城以西修了保宁堡垣长二十里，墩台三十六座。响水堡在万历七年（1579年）重修牌墙。波罗堡重修砖墙垛。怀远堡修砌砖牌墙边垣长四十三里零三十七步，墩台二十七座。威武堡在隆庆六年加高，万历六年修砖砌牌墙边长三十四里零三百二十一步，墩台二十六座。清平堡在隆庆二年加高，万历六年砖砌牌墙边长三十一里零二百六十九步，墩台三十一座。龙州堡，隆庆六年加高，万庆六年砖砌牌墙边长三十四里，墩台四十五座。镇靖堡，隆庆六年加高，万历六年砖砌牌墙边长四十七里，墩台四十三座。靖边营，隆庆六年加高，万历六年砖砌牌墙边长四十五里，墩台三十二座。柳树涧堡，隆庆六年加高，万历六年砖砌牌墙边长三十三里零二百三十六步，墩台四十八座。四安边营，隆庆六年加高，万历六年砖砌牌墙边长三十三里零二十三步，墩台五十一座。定边营，万历元年（1573年），拓展西关，三年加高，六年砖砌牌墙边长五十四里，墩台七十七座。

镇城以南的归德堡，万历年间重修周围二里六十九步。鱼河堡，万历四年，砖砌牌墙。

镇城以东，常乐堡，万历六年重修边长十八里零一百七十六步，墩台三座。双山堡，方历六年重修边长三十里零四十五步，墩台四十座以上。