1933年5月中旬，红二团转战到旬邑县阳坡头时，与陕北游击队第一支队相遇，受刘志丹委派，杨重远任陕北游击队第一支队政委，率一支队返回陕北。5月28日，在途经安定县时与敌民团遭遇，杨重远沉着坚定，与支队长强世清一起指挥部队顽强战斗，打退敌人的进攻，缴获枪支二十余支。5月29日，游击队在安定县谭家峪遭敌军两面夹击，杨重远身负重伤。为了让部队冲出重围，杨重远坚定地命令：“不要管我，撤出去一个就能保存一份革命力量。”同志们不忍心丢下自己的政委，坚决要求背着他一起撤退。杨重远严肃地说：“不要因为我连累同志们，给革命造成更大的损失，你们快撤，我来掩护。”杨重远以断墙为掩体，沉着地阻击敌人，掩护战士们安全撤退。此时，敌人狂叫着“捉活的”冲到他的面前。杨重远宁死不当俘虏，壮烈牺牲。

1927年夏，大革命失败后，陕北处于白色恐怖之中。杨重远受党的指示，继续留在石谦部从事兵运工作。

同年10月12日晚，中国共产党领导的石谦部近千人在清涧城举行起义，打响了西北地区武装反抗国民党反动派的第一枪。次日清晨，起义部队由唐澍、李象九、谢子长等率领挥师南下，15日到达宜川。杨重远领导的一个连和共产党员李瑞成、王振娃领导的两个连在宜川城内立即起义，接应清涧起义部队。在此之前，驻宜川之敌代旅长康子祥闻清涧起义部队南下，即采取先发制人的手段，向杨重远、李瑞成、王振娃连发起攻击。杨重远、李瑞成、王振娃率部迎战。经过一昼夜激战，康子祥率部弃城逃跑，两支起义部队遂在宜川胜利会师。会师后，由于领导人在行动方针上意见不统一，加之后来指挥失误，在强敌进攻下，起义部队被打散。

1928年，中共陕北特委派杨重远利用社会关系去河北遵化，打入国民党第四十七军高桂滋部作兵运工作。任高桂滋部地下党军委书记，公开身份先是该军刘捷第三师的副官长，后为军部军需。杨重远同该部的共产党员黄子文、朱侠夫、陈一平、马汝骥、吴岱峰等人一起，在顺直省委的领导下开展斗争。在一年多的时间里，杨重远秘密发展了近百名党员，并在一些营连建立了党的秘密组织，后来，这些党员和进步青年参加了党所领导的晋西游击队和晋东平定县的起义，成为组建红二十四军的基干力量。

1929年，高桂滋部被蒋介石南调山东作战。1930年，又参加阎锡山、冯玉祥的反蒋战争，结果损兵折将，所剩不到4000人，于1930年8月退到山西平定，被张学良收编为陆军第十一师。杨重远在山东作战中身负重伤。伤稍愈后，即化装突破蒋介石军队的层层封锁线，于是年初夏到了天津，向中共中央北方局汇报请示工作。适值北方局委员乔国桢要到陕北巡视工作，李杰夫要去陕西任省委军委书记，北方局便派杨重远以探亲为名，护送乔、李去陕。杨重远护送乔、李安全到陕后，还应邀参加了在绥德黑龙山召开的陕北特委扩大会议，并在会上介绍了作兵运工作的经验。他还把自己的家作为出席会议的同志存放武器和文件的场所，受到同志们的赞杨。

1930年秋，杨重远回到高桂滋部，继续担任军需，并很快和中共山西省委书记刘天章取得联系。这年冬，山西省委利用军阀混战刚结束的有利时机，决定在吕梁山区建立红军晋西游击队。杨重远受命参与筹建工作，担任省委驻汾阳联络站主任兼临时党支部书记。他到汾阳后，以开设骡马店作掩护，在离石、柳林一带开展革命活动。省委先后从太原兵工厂和高桂滋部以及农村，抽调了30多名共产党员作为游击队的骨干。这些同志都是由汾阳联络站护送转入到吕梁山区去的。

1931年春夏之交，中国工农红军西北游击大队晋西游击队第一大队(简称晋西游击队)，在孝义、中阳、汾阳三县交界的大麦郊娄底村举行成立大会，杨重远任省委军委代表兼游击队党支部书记，拓克宽、黄子文分任大队长和政委，阎红彦任副大队长，大队下辖两个中队。这是党在山西地区创建的第一支工农武装。

游击队开展了轰轰烈烈的军事斗争。杨重远和拓克宽、黄子文、阎红彦一起先后指挥了中阳县留誉镇、孝义县储家皍、石楼县水头镇和老鸦掌等战斗，歼敌数百人，游击队迅速扩大到百余人，威震晋西。8月上旬，新任山西省政府主席徐永昌，派国民党军第七十二师、焰兵团和地方武装共万余人“围剿”晋西游击队。这时，中共山西省委由于被叛徒出卖，遭到很大破坏，游击队和上级党组织也失掉了联系。游击队被困在山里，又失去兄弟部队的增援，处境极为艰险。为了解决队伍发展方向问题，杨重远和拓克宽于1931年8月28日在高山顶上主持召开队委扩大会议，决定坚决突围，西渡黄河，转移到陕北去打游击。在杨重远、拓克宽、黄子文等人的率领下，队伍冲破重重封锁，终于在1931年9月2日到达黄河边的中阳县三交镇，准备渡河。此时，全队只剩下30人，游击队胜利地渡过了黄河。

过河后，游击队进行了整顿。由于杨重远的出色工作和领导才能，在全队大会上，当选为游击队政委，阎红彦当选为大队长。以杨重远为首的新的队委会派人积极寻找陕北特委，以便能尽快同上级党组织取得联系。游击队在到达安定县(今子长县)西区枣树坪时，找到了地下党员谢子长的哥哥谢德惠，通过谢德惠找到了中共安定县委书记马文瑞。马文瑞对晋西游击队的到来表示欢迎，并立即向陕北特委作了汇报。不久，陕北特委指示游击队在安定、清涧、延川、延长、靖边等县开展游击战争。为扩充游击队的力量，陕北特委先后派了一批共产党员和革命青年参加了游击队。

游击队首先在安定地区开展活动，发动群众打土豪、斗地主，政治影响迅速扩大。群众积极地送粮、送情报，并踊跃参军，使游击队很快扩大到六七十人。随后杨重远、阎红彦带领队伍转战安塞、保安(今志丹县)、靖边等县，歼敌百余人，缴枪近百枝，还第一次缴获了战马，成立了骑兵分队。他们将打土豪筹得的经费，除留一部分供游击队军需外，其余均上缴给陕北特委。

经过1个月的艰苦奋战，游击队打开了局面，威震陕北。为了扩大革命力量，杨重远、阎红彦重视做联合、团结和改造保运商货的武装(简称保运武装，又称土客)的工作。10月上旬，游击队先后与保运武装首领萧永胜、杨琪、师储杰等人率领的百余人达成协议，并约定成立执法队监督执行。同时由晋西游击队给萧、杨、师所部各队派去政治指导员。在杨重远、阎红彦等人的教育和帮助下，保运武装队员的政治觉悟不断提高，后来不少人加入了中国共产党。

杨重远还十分注意瓦解敌军的工作，认真执行优待俘虏的政策。10月6日营盘山一仗，游击队取得了全胜，俘虏敌万宝山营和横山县民团三四十人，缴枪五六十支。杨重远亲自把俘虏集中起来，向他们宣传红军的性质和宗旨，指出只有跟着共产党走，才是穷苦人的惟一出路。表示欢迎他们参加游击队，对愿回家者每人发给两块银元作为路费，还把伤员送往安定县城帮助医治。不少俘虏听后，感动得流下了眼泪。

10月中旬，杨重远、阎红彦率领的游击队与保运装转战到安定县凉水湾时，接安定县委转来陕北特委的指示：避开敌人主力，必要时可转移到陕甘边去开展游击战争。游击队到过陕甘边的南梁，与刘志丹领导的部队会合。

两支部队会合时，正值九一八事变发生不久，陕西省委对于会合起来的武装力量十分关注。

1931年10月30日，谢子长按照省委指示来到南梁。杨重远积极协助谢子长开展工作。部队经过整顿后，于同年冬，转移到合水县柴桥子。这时，陕西省委根据西北地区人民抗日运动日益高涨的形势，决定将部队改编为西北抗日反帝同盟军，任命谢子长为总指挥，刘志丹任副总指挥，杨重远为参谋长。抗日反帝同盟军成立不久，就于1932年1月5日在甘肃合水歼敌军两个连。

1932年2月12日，根据陕西省委新的指示，抗日反帝同盟军在甘肃正宁县三家原正式改编为中国工农红军陕甘游击队，谢子长任总指挥、李杰夫任政委(李是中共陕西省委军委书记，后叛变)，杨重远任参谋长。同时，成立了中共陕甘游击队队委会，杨重远是委员之一，各大队成立了党支部。从此，陕甘边地区第一次打出了工农红军的旗帜。陕甘游击队决定以陕西的淳化、耀县、旬邑、宜君和甘肃的正宁、宁县为区域，开展游击战争。

杨重远沉着果敢，是个好参谋长。他把各项工作安排得井井有条。无论是上下级关系，还是各部门之间的关系，他都处理得很好。他平时话不多，开会时也不轻易发言，但一讲就能抓住重点，为大家所佩服。每次作战，杨重远总是亲自观察地形、了解敌情，协助总指挥制定作战方案，指挥战斗。

1932年2月19日晚，游击队南下旬邑清水原、土桥原，发动群众打土豪、斗劣绅。谢子长、杨重远率部先后歼灭了耀县照金镇、宜君地区瑶曲镇等地的民团，还两次袭击正宁县城山河镇。4月下旬，谢子长、杨重远又率部打下旬邑县城，处决了反动县长。这是陕甘游击队打下的第一座县城。

战后，执行“左”倾错误的陕西省委书记杜衡(后被捕叛变)来到游击队巡视工作，对游击队成立以来所取得的巨大成绩全盘否定，把由于作战经验不足，两次攻打山河失利的责任全部推到谢子长、杨重远身上，错误地批判斗争谢子长和杨重远等领导人，还撤了谢子长总指挥的职务，强令其离开游击队。

1932年春末夏初，敌人又向陕甘游击队发动了新的“进剿”。5月10日，中共陕西省委任命刘志丹为游击队总指挥。游击队在清水原集结后，召开队委会议，确定了粉碎敌人“进剿”的方针。在半个月内，杨重远协助刘志丹指挥游击队挺进数百里，经过5个县，大小9战，8次获胜，歼敌1400余人，缴枪1200余支，粉碎了敌人对陕甘游击队发动的“进剿”。

1932年7月23日，陕西省委派人担任陕甘游击队政委。他听不进刘志丹、杨重远等人的正确意见，指令推行冒险主义的进攻计划，致使游击队遭受重大损失，处境十分困难。

陕西省委为了扭转局面，8月底又派谢子长回游击队任总指挥。谢子长、刘志丹、杨重远采取了灵活机动的战术，在照金地区设伏，歼敌400余。照金战役的胜利大大鼓舞了士气。

1931年秋末，游击队两次攻打保安失利，被迫撤至甘肃合水县白沙川一带。敌人大军压境，游击队处境极端险恶，部分干部、战士情绪低落。杨重远和谢子长、刘志丹针对当时困难的局面，研究决定将游击队化整为零，分散活动。按照队委会的决定，游击队分成3路，杨重远和阎红彦、杨棋带领骑兵队到耀县照金一带活动。他们在照金以北老父岭打了大土豪，除将部分粮食和财物分给贫苦农民外，还为游击队筹得大批经费。10月下旬，杨重远、阎红彦率部返回南梁地区，接济留守在该地由谢子长率领的游击队和伤病员，受到战友们的热烈欢迎。随后，谢子长、杨重远率部挥师北上，在安塞县真武洞打了大土豪等，获马20余匹和大批烟土。谢子长和杨重远还将筹得的一批钱，派党员高鹏飞、强龙光、冯金福送往陕北特委和河北省委。

1932年12月上旬，杨重远、刘志丹、杨森分别率领各路游击队在合水县黑幕原、塔尔原地区胜利会合。此时，接到陕西省委的指示：根据党中央北方会议的决定，将陕甘游击队改编为中国工农红军第二十六军，并令游击队开往宜君转角镇杨家店整编。12月中旬，杜衡以中央和省委代表身份来到游击队。杜衡到部队后极力进行宗派活动，污蔑杨重远、谢子长、刘志丹、阎红彦等犯了“右倾机会主义”、“逃跑主义”、“土匪路线”、“梢山主义”的错误，诽谤游击队领导人“有反革命阴谋”、蛮横地撤销子谢子长、阎红彦的领导职务，强令其离开部队。由于广大指战员的强烈要求，杜衡被迫同意将杨重远、刘志丹留在部队，但对他们根本不相信，不分配重要工作。

1932年12月24日，杜衡在宜君转角镇召开军人大会，宣布中国工农红军陕甘游击队正式改编为红军第二十六军第二团(全军只有这一个团)，杜衡兼军政委和团政委，王世泰任团长，郑燕清任参谋长，杨重远被降为团参谋处长，刘志丹被降为团政治处长。面对这种错误的打击，杨重远表现出坚强的党性，仍努力为党工作。

次年3月下旬，杨重远协助王世泰、郑燕清率红二团在铜川北面打开金锁镇消灭民团30余人，随后进入三原武字区，歼敌1个排。4月上旬，杨重远协助王世泰，南下渭北，消灭了淳化南村寨子民团后回到照金。4月中旬，又西出彬县，途中消灭了旬邑土桥镇敌河工队30余人。接着又在龙马、高村消灭彬县民团30余人。至此，杨重远参与创建的以照金为中心的革命根据地已初步形成，东西50余里，南北80余里，面积达5000平方公里。

照金根据地的建立，游击战争的开展，使敌人惊恐不安。陕西军阀于5月上旬急调3个团和6个县民团分4路“进剿”照金根据地。红二团根据省委的指示，由照金向西开进转移到外线，以打破敌人的“进剿”计划。

部队转移到旬邑县阳坡头时，遇到陕北游击队第一支队，刘志丹给第一支队干部、战士讲了话，鼓励他们积极开展陕北游击战争，并拨给一些枪支弹药，派杨重远去任政委。杨重远率一支队返回陕北途中，于1933年5月28日在安塞、安定交界之董家寺(安定属)与敌民团遭遇，缴获枪20余支。29日，因遭敌军两个连袭击，杨重远机智果敢，指挥部队反击，战斗异常激烈。杨重远在转移中腿部受伤，战友们背着他继续撤退到杨沟村。这时敌人又蜂涌追来，情况万分危急。在这生死关头，杨重远不愿拖累战友，命令同志们不要管他，立即撤退。他以断墙为依托，沉着地痛击来敌，掩护战友们安全撤走，然后对准自己的胸膛开了枪，英勇牺牲，时年39岁。

杨重远牺牲后，敌人将他的头割下来挂在安定县城门楼上“示众”，妄图借此吓倒革命群众。安定县的人民群众，热爱红军和共产党，都为杨重远的牺牲而悲痛。他们冒着生命危险，将烈士的头颅取下来送往城外，交给红军，秘密安葬。为了纪念杨重远，1934年底，中共陕北特委决定划出安定县的南区和延安、安塞、靖边三县各一部设立重远县。