1937年，高维嵩任第二六四团政治委员兼党总支书记。同年春，高维嵩进入抗大第二期学习。

1938年3月，高维嵩任中共陕北东地特委军事部部长。6月，高维嵩任陕甘宁边区保安司令部独立第四营营长。他带部队参加保卫河防战斗，打击了国民党发动的第一次反共高潮。

1940年8月，高维嵩任保安司令部第二团团长。

1941年5月，高维嵩任保安司令部作战科科长。

1942年12月，高维嵩任陕甘宁晋绥联防军警备第三旅第八团政治委员。他积极响应毛主席和党中央的号召，参加了大生产运动，经过三年努力，战胜了国民党对陕甘宁边区的军事进攻和经济封锁。

1945年4月23日，中国共产党第七次全国代表大会在延安召开，作为陕甘宁边区代表团成员的高维嵩光荣当选候补代表并参加了这次具有历史意义的大会。10月，高维嵩参加解放宁条梁镇战斗，促使国民党新编十一旅起义（牛化东任起义总指挥，开国少将）。

1946年4月至10月，高维嵩任陕甘宁晋绥联防军警备第三旅政治部主任。10月，高维嵩任陕甘宁晋绥联防军陇东警备区副政治委员兼政治部主任，至1947年9月。

1947年春，高维嵩任警备三旅政治委员，奉命袭击了兴武营，歼灭了宁夏马鸿逵骑兵十九团部和直属队，智取太平镇，攻占了周家寨子和梁庄、驿马关，摧毁关中50千米敌人封锁线，先后歼敌1600余人，为开创游击活动创造了条件。毛主席转战陕北时，高维嵩和黄罗斌旅长率警三旅，担负保卫党中央、毛主席的重任。高维嵩率五团和旅部机关转入白水、韩城打击敌人，奔袭芝川镇、赵庄，打击澄城援韩城之敌，配合二纵队消灭韩城守敌。10月下旬，高维嵩率五团随二纵队进入宜川，全歼宜川守城之敌，消灭敌人3300多名，缴获大批武器弹药。11月，警三旅奉命北上，攻打榆林，于16日到达横山雷龙湾、边家河等地，阻击马鸿逵部溃敌，经过一天的战斗，消灭敌人官兵900余人，收复了三边（安边、定边、靖边三县）。12月，高维嵩率部队由张家畔等地转移到安塞侯家河湾，在全旅开展整军运动，使全旅官兵上气高涨，其经验经彭德怀批示，成为西北野战军新式整军的典型，进行推广，并在西北局《群众日报》上给予通报表彰。

1948年初，高维嵩奉命率警三旅从安塞出发，于2月14日占领青化砭阵地，担负着掩护主力部队通过的任务。22日，主力各部队顺利通过。随后，警三旅向敌人发起进攻，经过连续战斗攻占了敌人四个山头。我军发起全面进攻，高维嵩率部以猛虎下山之势，配合主力对敌展开最后围歼。3月1日，瓦子街战役胜利结束，消灭敌人整编二十四旅2000多人，胡宗南集团王牌军国民革命军第二十九军军长刘戡自杀毙命。这是警三旅整军教育后参加的第一次较大规模战役。7月，警三旅开始转战关中，率部参加澄合战役、荔北战役。高维嵩的《永丰攻坚战斗政治工作总结报告》呈彭德怀阅后，通报推广全军。11月，高维嵩率部队向富平进军，歼敌1100多人，消灭耀县、铜川守敌十七师。12月，高维嵩任西北野战军第四纵队第十一师政治委员、纵队党委委员。

1949年2月至9月，高维嵩任第一野战军中国人民解放军第四军第十一师政治委员、军党委委员。2月，十一师奉命包围了铜川外围守敌，经过几天围歼和追歼，在淳化地区消灭了敌二十师和十一师四十团，俘敌少将师长褚静亚、参谋长张汉凌等。4月，他率领十一师强渡泾河，配合主力兵团，连克礼泉、乾县，将西逃之敌五十七军及三十师全歼于康家河、老君顶地区。处于穷途末路的蒋介石，命青海马步芳、宁夏马鸿逵配合胡宗南夺回西安。二马组成援陕兵团，同胡宗南十八兵团联合起9个军30个师的兵力，沿西兰公路两侧前进，向西野三、四纵队扑来。高维嵩率十一师，于6月13日到达泾阳以北地区集结后，向敌人发起进攻，将敌骑兵八师打退，尔后经过四小时的强攻，歼敌八十二军、三十六军4万多人。7月，西北野战军发动了扶眉战役。遵照中央军委战略方针“钳马打胡，先胡后马”，在彭德怀指挥下，7月11日，高维嵩率领十一师从礼泉出发，取道清水营，从背后西进，先头部队击溃一九一师七五二团三个营一个排。12日晨3时，高维嵩率部赶到益店地区，配合友军一举歼敌2600余人。扶眉战役的胜利，为我军挺进大西北扫清了障碍。高维嵩率十一师随中国人民解放军第二兵团乘胜西进，组织了陇东追击战，接连解放陇东22县城，发起了兰州战役。8月14日，高维嵩率十一师经过10天行军到达兰州的“锁钥”沈家岭地区。四军命令十一师首先攻占兰州咽喉——沈家岭。师部接到命令后，决定三十二团主攻，三十三二团助攻，三十一团为预备队，21日发起攻击。高维嵩亲临三十二团前沿指挥所，调整兵力部署好作战计划。8月25日晨，全线总攻开始，高维嵩亲自指挥部队向沈家岭展开猛烈进攻，激战14小时，打退敌人30余次反扑，将敌人全部歼灭。8月26日兰州宣告解放。十一师在高维嵩等的指挥下，转战陕、甘、宁三省，参加80多次战斗，消灭敌人36500多人、缴获大炮140余门、各种枪支11400余支及其他大量军用物品，为解放大西北作出了积极贡献。高维嵩得到西北野战军司令部和彭德怀司令员“再建奇功”的赞誉。

1949年10月，高维嵩奉命率师进驻临夏地区剿匪反特，至1951年春，经过620多次剿匪战斗，共歼灭土匪2650多人，6400多人投降缴械，取得了剿匪胜利。

1950年4月至1952年7月，高维嵩任中国人民解放军甘肃省临夏军分区副政治委员。

1952年6月至1954年夏，高维嵩任西北军区政治部组织部部长。

1953年，高维嵩任甘南合作剿匪指挥部政委（司令员张达志，政委高维嵩，副司令员朱声达、徐国珍、黄正清），率部平息了马良叛乱。

1954年9月至1957年夏，高维嵩为中国人民解放军军事学院政治系第二期学员。

1955年9月，高维嵩被中央军委授予少将军衔，荣获二级八一勋章、二级独立自由勋章、一级解放勋章。

1956年至1958年，高维嵩两次参加了甘南平叛。

1957年至1960年5月，高维嵩从南京军事学院毕业后任青海省军区政治委员。他认真抓好战备和民兵工作，平息玉树叛乱，组织部队开展副业生产，开办石棉、石膏等厂，支援国家建设。

1959年，高维嵩奉命参加西藏平叛。

1957年9月至1963年2月，高维嵩任青海省军区党委第二书记。

1958年6月至1963年12月，高维嵩任中共青海省委常务委员。

1960年5月至1963年8月，高维嵩任青海省军区第二政治委员。

1962年，高维嵩参加了中印边境自卫反击战。

1963年4月至1965年1月，高维嵩任陕西省军区第二政治委员。

1965年1月至1977年12月，高维嵩任兰州军区副政治委员。

1965年11月至1966年5月、1970年1月至1976年10月，高维嵩任兰州军区党委常务委员。

1969年4月，高维嵩被推选为中国共产党第九次全国代表大会代表，在这次大会被选为中共中央委员。

1970年1月至1975年8月、1976年10月至1977年12月，高维嵩兼任兰州军区党委副书记。

1972年2月，中共中央决定组成中央赴国防科委学习组，与国防科委临时党委常委联合实施领导，高维嵩任国防科委革命领导小组组长。

1973年8月，高维嵩再次当选中国共产党第十次全国代表大会代表。

1979年，高维嵩奉命率部驻防新疆，担负建设西北、保卫西北重任。

1985年1月18日，高维嵩因病在西安逝世，享年68岁。

在延安革命纪念馆陈列着一件大衣，下面文字标注“刘志丹穿过的大衣，1953年高维嵩存赠”。刘志丹向高维嵩送大衣的故事发生在1935年冬，当时高维嵩在义勇军第二大队当指导员。由于部队给养困难，一些刚入伍的战士一时没有领到冬装，高维嵩就把自己的大衣送给了一名战士。有天夜里，部队行军，天气十分寒冷，高维嵩只穿着一件单衣，冻得瑟瑟发抖，他只好把背包打开，把被子披在身上。这时时任红28军军长的刘志丹走过来，发现队伍里的高维嵩披着被子行军，就上前把他从队伍中拉了出来，问他的大衣哪里去了。高维嵩如实地向刘志丹讲了新战士缺少过冬棉服，自己把大衣让给了新战士。刘志丹当即表扬了他关心爱护战士的做法，并表示将尽快解决新战士的冬装问题，随即将自己身上穿的一件黄呢子大衣脱下来披在了高维嵩的肩上。高维嵩见他身上穿得也不厚实，推辞不要。刘志丹以命令的口气让他穿上，并亲切地说：“你个头大，穿上正合适。留下穿着行军打仗利索方便些。”第二天，高维嵩到指挥部给刘志丹还大衣，刘志丹坚持让高维嵩把大衣留下做个纪念，并详细询问了大队的训练和战士们思想情况，指示高维嵩一定要抓好大队特别是新战士的思想政治工作。他说，因为新战士不习惯部队艰苦紧张的生活，容易想家，思想情绪不稳定，工作一定要跟上。他还风趣地说：“我们一定要从敌人那里缴获更多的棉衣、大衣，来解决战士的困难，当然也包括我自己啰。”后来，高维嵩弄清了这件大衣的来由。那是1935年5月，当时的陕北黄土高原气候仍是初暖乍寒。陕甘苏区红军总指挥刘志丹身上穿的一套旧军衣，天气冷了，就把一床破毯子披在身上。当警卫员听说部队刚缴获一些物资时，就找后勤的同志为刘志丹领了一件黄呢子大衣。刘志丹却坚决不要，说不少人都没有大衣穿，自己不能搞特殊，非叫警卫员退回去。负责后勤的同志听说这事，也来劝他收下，并告诉他说，还有几件就要分给最需要的同志呢。刘志丹这才把大衣收下，用大衣代替了那床毯子，白天搭在马鞍上当垫子，晚上盖在身上当被子。高维嵩穿上了刘志丹送的大衣，心里别有一番滋味。后来，刘志丹不幸牺牲了，高维嵩得知后热泪满面，难过得几夜没睡着觉，他想起了刘志丹许多密切联系群众的事迹。在陕甘红军中，刘志丹从来不以领导者自居，保持了普通一兵的本色，从来不摆架子、耍威风、搞特殊化。当时，他只有一匹马、一个马夫，既没有秘书，又没有勤务员。行军作战命令及有关文件，全由他自己亲手起草，每晚的口令也是由他拟定。他的乘马遇到伤病员就让给他们骑，自己徒步行军。他吃的穿的和全体指战员们一样，夏天穿一套旧军衣，冬天穿一件破棉袄。战士们吃什么他就吃什么，从不另起炉灶，当老百姓慰劳部队送来猪羊肉、白面等，他总是先分给先锋连和义勇军，然后按数量多少分给各部队。为了缅怀这位陕北红军的创建者，高维嵩再也舍不得穿这件大衣，随身携带着大衣转战陕甘宁根据地，经历了许多风风雨雨和战斗，行军打仗中许多珍贵的东西都丢失了，唯独这件军大衣一直保存在身边。1937年夏，由于战事紧张，高维嵩怕军大衣遗失，就托人捎回老家保管。1947年，在国民党军胡宗南部队进犯延安和陕北时，家里的老人和兄弟特地挖了地窑，把大衣藏了起来，一直保存到新中国成立。1953年，他托家人把这件珍贵的革命文物献给了延安革命纪念馆。1957年，《解放军画报》刊登了一幅刘志丹给高维嵩送大衣的画，以及高维嵩向战士们讲述刘志丹给他送大衣故事的照片。1960年春节，已是青海省军区政委的高维嵩带着妻子和孩子们回了一趟阔别多年的陕北老家，特意到了延安，领着全家人到枣园、杨家岭、王家坪等当年党中央、毛主席的旧居参观。在杨家岭中央大礼堂，他给孩子们讲述了自己当年作为候补代表，参加党的七大时的盛况和心情。在他们参观延安革命纪念馆时，高维嵩看见了那件黄呢子大衣，向孩子们讲述了当年的故事，并久久不愿离去。刘志丹艰苦朴素、关心部属、爱护群众的作风在高维嵩身上扎了根。解放后，高维嵩虽然职务变了、地位变了，但他战争年代的那股子奋斗精神没变，优良作风没变，他工作勤勤恳恳，坚持深入第一线，即使生活在条件优越的大城市，不仅烟酒不沾，还经常离不开酸菜、小米饭。他常说：“陕北的黄土地养育了我，小米饭滋养了我，老刘的精神激励着我，我愿为生我养我的大西北贡献毕生！”七十年代初期，高维嵩曾被调到北京担负要职，后来，他向组织要求又回到了西北。恶劣的环境、紧张的工作使他身患多种疾病，但他生命不息，奋斗不止，1985年1月，他因病告别了为之奋斗了一生的黄土地。

1955年被授予少将军衔，荣获二级八一勋章、二级独立自由勋章、一级解放勋章。

高维嵩是我党的优秀党员，我军的优秀指挥员，共产主义的忠诚战士。第二次国内革命战争时期，他参加了陕北游击战争和著名的东征战役；抗日战争时期，他参加了保卫党中央和陕甘宁边区的战斗；解放战争时期，他率领部队参加了西北一些著名的战役，屡建战功，为解放大西北做出了贡献。战争年代，他执行命令坚决，指挥果断，英勇战斗，经受了严峻考验。他以党的利益为重，不计较个人得失。半个多世纪以来，他坚持在西北地区战斗和工作，同这里的军民建立了深厚的感情。他为我军的革命化、现代化、正规化建设做出了重要贡献。他工作严谨细致，联系群众，团结同志，艰苦朴素，平易近人，保持和发扬了我党我军的光荣传统。他坚决拥护党的十一届三中全会以来的路线、方针、政策，在思想上、政治上和党中央保持高度一致，服从组织，顾全大局，充分表现了一个共产党员、老干部的品德。