1923年，在熊克武部第一军第三混成旅任排长，不久，升任营副。时值军阀混战，老百姓怨声载道，乃毅然辞去营副职务，于1923年夏回到内江，参加了廖恩波、黎灌英等组织的“读书会”，开始接受共产主义思想。同年，加入了中国社会主义青年团。1924年至1926年，先后协助黎灌英开展反对土豪劣绅马祥九、林基九、范承九的斗争；开办“民团干部传习所”和“团练干部讲习所”；创办内江公学。为内江的群众运动开展和党组织的发展，作了思想上、组织上的准备。1926年1月，由青年团员转为中国共产党党员。不久，国民党（左派）内江县（临时）党部成立，任执行委员。1926年底，考入黄埔军校武汉分校。1927年春，被任命为国民革命军第七师中校参谋。同年6月，到贺龙领导的国民革命军二十军，任学兵营营长，后升任国民革命军二十军第三师教导团副团长。同年7月，随贺龙进驻南昌，参加了“八一”南昌起义。8月5日，跟随起义部队撤离南昌。在会昌因团长侯镜如负重伤离队，接任教导团团长。9月底，在广东潮州，率部与敌军黄绍雄部展开激战，不幸左脚负重伤，与部队失去了联系。1928年夏，奉命回到重庆，任行动大队长，在中共四川省委军委的领导下，从事武装斗争。同年冬，到国民革命军二十八军第七混成旅旷继勋部的做军运工作。1929年春，奉命带领一支武装工作队，出没于川西平原，筹款筹枪，开展武装斗争。