王锐在任期间，从长远考虑，请求沿边境筑墙建堡，工程还未动工就被否决了。到余子俊接任后，上疏说：“三边只有延庆平坦开阔，利于驱马急驰。寇（鞑靼）屡次入侵，俘获边民做向导，一直进入河套驻扎放牧。从此寇竟居于塞内，我们反而屯于塞外，在沿边筑墙建堡是当务之急。况且现在旧界石还在，高山多悬崖陡壁，依照山形，随着地势，有的铲削，有的垒筑，有的挖壕沟，延绵相接，形成边墙，这对于边墙工程来说较为方便。”兵部尚书白圭以陕西百姓正贫困，奏请缓兴工程。

自成化七年（1471年）十月以来，鞑靼军相继攻击孤山堡等地，又入侵榆林，余子俊先后与抚宁侯朱永、右都御史王越、延绥总兵官许宁分路出击，打败鞑靼军，斩首三百一十六级，夺回一些牲畜物资。

这时，鞑靼军占据河套，朝廷连年派遣大军征讨，没有什么实际效果。成化八年（1472年）秋，余子俊说：“现在征讨河套的兵马驻扎在延绥的有八万，牲口饲料靠内地，如果今年冬天敌寇不向北退却，又需要准备下一年的军需供应。姑且用今年的数额约略估计，米豆需银九十四万两，草料需银六十万两。每人运米豆六斗、草四束，应该动用四百零七万人，大约花费用八百二十五万两。公私冗杂繁乱到这种地步，怎能不改变谋划！臣先要求筑墙建堡，诏书说要等事情安定后再进行，请求于明年春夏敌寇人马疲乏时，役使陕西运粮百姓五万，供给食物，兴建工程，要求两个月完工。”白圭仍然坚持他的意见，阻挠兴建工程。宪宗则赞同余子俊的建议，下令迅速进行此项工程。

成化九年（1473年）六月，朝廷根据余子俊前后立下的功劳，升他为都察院左副都御史。七月，余子俊、许宁等督兵同入侵榆林涧的鞑靼军交战“二十余合”，最后将其击退。次年（1474年）六月，朝廷又因此前王越率军取得红盐池之战的胜利，而酬赏助战有功的余子俊，再升他为都察院右都御史。

由于河套老营在红盐池之战中被摧毁，鞑靼军被迫远徙，不敢再在河套居住。内地忧患渐渐平息。余子俊抓住机会，全力兴建工程。东起清水营，西抵花马池，连绵一千七百七十里，凿崖筑墙，又在其下挖濠沟，一直连绵不绝。每隔二三里建置瞭望台、崖栅以便巡视警戒。又在崖栅空处筑矮墙，横一斜二如箕状，用来瞭望和避箭。总共建筑城堡十一个、边墩十五个、小墩七十八个、崖栅八百一十九个，动用士兵四万人，不到三个月就完工了。墙内的土地全部分给军队屯垦，一年收获粮食六万石有余。

成化十年（1474年）闰六月，余子俊向朝廷一一禀报工程之事。七月，他因为母亲年老，无人侍奉，奏请辞官回乡奉养。朝廷因延绥形势稍安，仍需余子俊整饬边备，故加以慰留，不许他返乡。十二月，余子俊以患病为由辞官，再度被朝廷拒绝。

当初，绥德州是延绥镇官署所在地，所辖米脂县、吴堡县都在镇外。鞑靼军用轻骑入境劫掠，等镇兵发觉而去追击，总是追赶不上，鞑靼军往往得利而去。自余子俊将镇迁徙到榆林，增加守卫，扩大城墙安署军队，攻守器械都俱备逐渐成为重镇，鞑靼军来掠夺次数渐渐少了，军民得以平安耕种放牧。

余子俊当初建造的榆林边镇城墙，有人怀疑用沙土建造容易倒塌，鞑靼入侵后不能依靠。到成化十八年（1482年），寇入侵内地，总兵许宁等追逐的鞑靼军被城墙濠沟所困，四处乱跑而出不了城，于是被打得大败，边镇的人更加思念余子俊的功劳。

成化十一年（1475年）十二月，余子俊改任陕西巡抚，翌年（1476年）正月，他再度请辞，仍未被朝廷允准。

在任西安知府时，余子俊因了解到居民为水质含碱发苦不能饮用而发愁的情况，凿渠引入城西贑河的河水，解决人民的饮水问题。时间长了，渠水向外漫出，又无法排泄。此时，余子俊主政陕西，遂主持在西安城西北开凿渠道排水，水渠流经汉代旧城到达渭水。对国家和百姓更加有利，号称余公渠。又在泾阳凿山引水，灌溉农田千余顷。打通到南山的道路，直达汉中，方便来往的旅客。对于毁塌破旧的学校、公署全部补修一新。上奏章免除岷州、河州、洮州三卫的戍守，南方的兵卒一万多人。更换了南北轮戍的兵卒六千多人，让他们各自戍守本土。

成化十三年（1477年），岷州栗林羌反叛，率一千余人围攻舒龙沟堡，被指挥刘琥击退。不久后，栗林羌卷土重来，声势更大。余子俊得报后，与都督白玘等率军连夜抵达栗林羌据点附近，设下埋伏。次日清晨，栗林羌人发觉有埋伏，遂遁逃，但被伏兵四面袭击，顿时溃败。此战，余子俊等斩首一百六十四级，生擒一人，缴获一些牲畜、物资。

成化十三年（1477年）七月，朝廷召还余子俊任兵部尚书。十月，余子俊自陕西抵达京师就职，并奉诏“管部事”，成为兵部实际上的坐堂官。

余子俊掌管兵部三个月后，上奏申述明确条例十项，又列立军功悬赏等级，由此朝廷内外有章可循。缅甸酋长卜刺浪企图夺取思洪发、贡章地，找借口向朝廷要求。余子俊说不能答应，朝廷谕止了卜刺浪夺地的企图。贵州巡抚陈俨等因为播州苗人暗中起事，请求调湖广、广西、四川兵五万，会同贵州兵一起围剿。余子俊说叛军在四川，而贵州请求征讨，是为邀功，上奏章止息这件事。

成化十四年（1478年）十月，余子俊疏论辽东巡抚陈钺击杀进贡的夷人之罪，反对其继续增兵围剿女真各部的要求。宪宗同意余子俊的看法，但由于太监汪直的缘故，也没有处罚陈钺。然而陈钺在汪直面前多方陷害余子俊，时逢余子俊因母亲去世回家守丧，才免遭陷害。

三年服丧期满后，宪宗授余子俊户部尚书，不久加封太子太保。成化二十年（1484年），兼任左副都御史，总督大同、宣府的军务。成化二十年（1484年）冬返回朝廷。成化二十一年（1485年）正月，星相有变异，余子俊陈述时弊八种，宪宗大多采纳。没多久，又到边境巡视。

当初，余子俊巡视宣府、大同两镇，要求以延绥边墙法在两镇推行，因年成歉收而停止。到这次余子俊又巡视边境，余子俊坚决要推行，余子俊说东起四海治，西抵黄河，连绵一千三百余里，旧有墩一百七十个，应增建四百四十个，墩高宽都是三丈，估计需要劳动人手八万六千人，几个月可以完成。宪宗下诏书同意第二年四月开工，然而到了那个时候，年成不好，国家和百姓都不宽裕，陡然兴建大工程，上下都感到困难。余子俊又想责成边臣去完成，而自己不亲自管这件事，由此招来毁谤和议论。到冬天，余子俊上疏请求还京，宪宗听信谣言，改授余子俊为都察院左都御史、抚巡大同。宦官韦敬进谗言说余子俊借修边墙侵吞财物，又弹劾他以私怨更换将帅。兵部侍郎阮勤等为余子俊辩白，宪宗发怒，责备阮勤等。而给事中、御史又纷纷呈上奏章弹劾，宦官大多想陷害余子俊。工部侍郎杜谦等前往调查，按实情公平地对待，返京向朝廷奏报换置将帅同阮勤说的情况相符，没有侵吞建边墙的费用。然而花费银一百五十万两、米豆二百三十万石。耗费财物，劳动百姓，不能说没有罪。成化二十二年（1486年）二月，宪宗削去余子俊的太子太保职，命其以左都御史致仕归家。

成化二十三年（1487年）正月，兵部尚书空缺，宪宗发觉余子俊无罪，于是在同年七月起复他为兵部尚书，仍加太子太保，主持兵部事务。余子俊以患病为由推辞，被宪宗安慰挽留。九月，明孝宗继位。孝宗因余子俊是先朝老臣，对他愈加尊敬。

弘治元年（1488年），余子俊上疏陈述十事，之后又陈述边防七事，孝宗大多同意实行。

弘治二年（1489年）初，余子俊病重，仍亲自撰写奏稿，陈述救荒息盗的办法。刚刚得到朝廷的允准，他便在任上逝世，享年六十一岁，时为弘治二年二月二十三日（1489年3月24日）。孝宗为其辍朝一日，追赠特进光禄大夫、太保，谥号“肃敏”，授予他的一个孙子官职。

余子俊在西北任职多年，政绩卓著。

余子俊初知西安府时，遭遇荒年。他当机立断，下令开仓，用十万石粮食赈贷，让受贷者分期偿还，百姓既得以救济免为饿殍，官府也不受损失。那时，西安水质含碱性苦涩，而龙首渠废弃已久，有人建议凿渠引城西皂河之水流入西安。时日一久，因无处泄注而水溢，眼见西安城垣将遭损坏，余子俊动员百姓在城西北方开新渠排水，使丈八沟水经汉城流贯全城，然后注入渭水，避免了损失。时人为感谢余子俊的德政，将该处泄水渠命名为“余公渠”。他在西安任知府六年，政绩位居关中七府之冠。

巡抚延绥时，余子俊将治所由陕西绥德移至榆林，增卫益兵、拓城，置攻守器械，使榆林成为重镇。余子俊详细观察边防地势，每天徒步数十里进行勘察，熟悉了该地区的地形以后向朝廷上疏，沿着边境建墙筑堡作为边界线。每隔三里筑敌台崖砦以便巡警，如此连绵相接以成边墙。又在中空处加筑短墙，横一、斜二如偃月状的建筑物以侦察敌人，为防御敌人的射击。他的上疏，得到宪宗的赞赏，付诸实施。东起清水营的紫城砦（今陕西府谷县西北），西抵宁夏花马池（今宁夏盐池），长达一千七百七十里，凿崖筑墙，其下掘堑，连续不断。共筑城堡十二座，壕墙崖砦八百一十九个，小墩七十八个，边墩十五个。这项工程，以四万役军投入劳动，不到三个月时间就全部竣工。他又调定边、安边两营移到边城附近一面防守，一面就近耕种。此外，他还将缉拿的逃兵及谪戍的南方人员的子孙迁到边城防守、耕种；并将边区内荒地开垦为屯田，军民在此耕作，每年收获粮食六万多石，为国家节省了大笔军粮费用。史称其“尽心边计，数世赖之”，影响后世深远。

余子俊还在延绥设立武学，以培训其优秀子弟，深得当地军民拥护。驻军中的大小器具一应俱全，军士都能安心驻守。他还按不同季节派人向军士教导种植瓜果蔬菜技艺，并常亲自前往巡视。在余子俊的精心规划下，军民都能安心耕种、放牧，也加强了防守工作。

巡抚延绥时，余子俊曾与朱永、许宁击败进犯榆林的鞑靼，立下战功。

调任陕西巡抚后，余子俊采取消弭盗贼，安定民生的措施。当时泾阳有个旧堰，不利于灌溉，多次修凿，不久又损坏。余子俊动员百姓在泾阳凿山引水，灌溉田地千余顷。又凿南山水道，直抵汉中，也便利沿途行旅客商。他在西安知府及陕西巡抚任上，还将学校和公署旧房修葺一新，并发展教育事业。

余子俊又奏请朝廷，将岷、河、洮三卫戍一万多人守南方，使之回归本土，又将南北易地戍边的六千多兵丁调回本土戍守、耕种，百姓无不感恩戴德。

成化二十年（1484年），余子俊在总督宣大期间，打造了人称“鹧鸪车”（意指运动迟滞）的战车。该车辕长1丈2尺，10人驾拽，每战车500余辆为一军。行则纵以为阵，止则横以为营。车空缺处补以长5尺的鹿角。每车配备炮4门。

余子俊的诗歌受北宋苏轼的影响，颇为豪放自适，陈文烛在余子俊《春塘集》序中称：“余先生诸作在黄鹄碧鸡者，思壮而悲；在三岩凌雪者，语放而适……其诗工矣，海内推太史于苏长公似也。”他认为余子俊对于诗意的提炼类于苏轼，具有“好风凭借力、炼字好诗工”的特点。

余子俊的《次唐王勃元武山圣泉诗》，语言平实质朴，淡然随意，其“青鞋布袜陟层岭”与苏轼“竹杖芒鞋且徐行”句相仿，所述及的皆是日常之物、寻常之态但又能够将其融入诗意，拓展了诗境，将生活中之物纳入写作的范畴。正如苏轼其诗词中表现出的人与大自然和谐相处，体现了人与自然的融合美以及豁达自适的文人气质。

余子俊成长于西南眉州地区，其诗所咏多涉及眉州山川名胜。如在《中岩》一诗中，他将人物、场景、景物描写相结合，描绘了中岩寺中安乐祥和而韵味深致的场面；通过动静结合的手法，将有客远来、清扫制茶相待的场景生动表现。烟霞、石笋茶、维摩石皆为静态之物，而诗中“入”“净扫”“频煎”又为动态描写。末句中“招提”一词为佛教梵语，有四方之意，余子俊晚年多接触禅佛思想，故而诗含自适思想。

朱诚泳：“貔貅十万度洮河，顷刻前徒自倒戈。小丑命从今日尽，名臣功比昔人多。一天膏雨消氛气，满路春风奏凯歌。闻有巨崖堪勒颂，万人相向为君磨。”（《闻余士英都宪凯旋喜而有作》）

朱见深：“卿谙练戎务，效劳有年。”

丘濬：“今余公之建功，在延绥、环庆之间，盖二公（范仲淹、韩琦）故壤也。而榆林边墙之修，延袤余二千里，虏人望望而去，边民优游以嬉者，余二十年矣。使继公者人人皆体公心，踵而葺之，使母致废坏，则公之功留於後世者，岂下二公哉？夫天之於夷狄，固限之以山川，山川不足，而以人补之，因厄塞之阙、顺形势之便，以扼异类之冲突，似不过是……而公则遂矣，且有效矣。而或者不废其前功，而顾逆料其后弊何哉？忌之也，亦非专公也。方公建议时，有云凡事务须足到目过、似能经久者，方始之。予固知公非苟然而漫之者，边墙之修成不成不足惜，而所惜者民财。民财不足惜，而所惜者国计。呜呼！决一已之弘，而忘国计之大，斯人何人哉？”（《兵部尚书余肃敏公子俊传》）

刘瑞：“公才为文武，决胜望隆中外，功伐在西北者，妇人孺子能诵之，虽传之百世可也。”（《余肃敏公奏议后序》）

刘健、谢迁：“子俊沉毅寡言，团达有才略。论者谓其所施设，在狭西为多。在延绥功尤卓绝，边人利之至今。及用于北边，时与地异，而行之不疑，其招物议以此。然忧勤为国，始终不变，一时臣僚亦罕有其云。”（《大明孝宗敬皇帝实录》）

杨廷和：“公尝语人曰：‘人臣事君，当随事尽力’”

唐枢：

郑晓：“先朝大臣屡有复套之议。成化八年，遣吏部侍郎叶文庄公行视。文庄以为未可轻议，特缮障增戍，谨备之便。九年，遂移延绥镇城于榆林。此余肃敏经略之功也。”

张松：“一兵车之制，自旨记之。先臣余子俊用之，宣大屡立奇功。”

项笃寿：“昔先襄毅（项忠）以撼汪直去位，余公继入为兵书。余承乏职，方览故所存堂稿，皆明确可为法守。其所经画边事，大都重修守先墙堡，意深远矣！当是时，市事不常有，间被边患，犹有余力。及板筑频年，通市烽火，稍希练习，兵将绸缪，户牖可置不讲乎？窃迹二公勋名在榆林尤着，而才干宇局。及出处会遇，亦略相同。公即旋罢旋起，席不及温。襄毅一蹶，竟不复起。成功难居，多口难调，岂非命耶？”（《今献备遗》）

王世贞：

宋徵璧：

张廷玉等：

余子俊处理公务时，都亲自撰写奏疏，常常到半夜才睡，他曾说：“大臣为国，应当不考虑自身利害关系，怎能躲避埋怨换取恩惠，为保全自己作考虑？”因此榆林的边墙工程才开始，怨言诽谤众起，余子俊态度更坚决，终于大功告成，有利于后世几代人。余子俊孝顺父母、友爱兄弟，为母丧守服时，要儿子余蜫不参加会试，余子俊说：“虽然律令上没有这条，但我于心不忍。”朝廷本当荫封其子官职，余子俊推辞，改封此职给弟弟。

余子俊著有《春塘集》，今已佚。《明史·艺文志》载有《余子俊奏议》6卷。《皇明经世文编》录有《余肃敏公文集》1卷。《四库禁毁书丛刊》有《余肃敏公奏议》3卷。

陕西省榆林市沙河路沙河公园有余子俊纪念馆。

2019年音乐剧《余子俊》：饰演者不详。

《余肃敏公传》

《兵部尚书余肃敏公子俊传》

《大明孝宗敬皇帝实录·卷二十三》

《国琛集·下卷》

《今献备遗·卷二十九》

《名卿绩纪·卷二》

《续藏书·卷十六》

《明史·卷一百七十八》