1918年，陕西靖国军在三原成立，史可轩任总指挥部副官长。次年迁居三原县。冯玉祥督陕后，靖国军改编为陕西陆军第一师，史可轩任第一师第一混成旅副官长兼骑兵营营长。1924年秋，冯玉祥、胡景翼发动“北京政变”时，史可轩率骑兵营负责警戒紫禁城，随即被任命为国民军第二军第三补充团团长。在这期间，他请求会见了李大钊，并拜访了孙中山，从中受到很大鼓舞。这年底，任国民军郑州警备司令时，积极支持共产党领导的工人运动，并在郑州结识了中共豫陕区委书记王若飞，进一步了解了中国共产党的思想和各项政治主张，自认“找到了救国救民的真理”。1925年春，史可轩在与直系军阀刘镇华作战中，任国民军第二军第二师第三旅旅长。同年8月，部队移防新乡，进行整训。其间，他邀共产党人来部队讲授中国土地问题和中国革命问题，对官兵进行了政治教育。11月，奉命率部攻占了津浦铁路上的青县、马厂，乘胜进驻天津。12月，与师长邓宝珊联合发表通电，主张改组“临时执政府”，成立国民政府，消灭军阀，统一中国。1926年初，为增援国民军第二军，史可轩率部南下，驻防开封。3月，国民军总司令冯玉祥宣布下野，他也随之离开部队。4月，史可轩赴上海，会见中共中央秘书长王若飞，提出入党请求，并希望赴苏联学习。不久，王若飞和陈家珍介绍他加入了中国共产党，并安排他去苏联进行考察。当行至苏联上乌丁斯克时，接到中共中央要他同冯玉祥、于右任等一同回国、整编部队、策应北伐的通知，于是即随冯玉祥、于右任、刘伯坚等一起回国。9月15日到达五原镇，参加“五原誓师”。誓师后，史可轩奉命南下榆林，率其旧部，与许权中来到三原。当时渭北土匪活动猖獗，国民联军总司令部任命他为渭北清乡司令。他借此机会，仿效毛泽东的作法，在三原县城的渭北中学创办了农民运动讲习所，自任所长，为渭北各县培养了一批从事农民运动的骨干分子。