他家境贫寒。15岁还没有步枪高，但人却机灵活泼，勤奋勇敢。1930年加入中国共产主义青年团，1932年参加中国工农红军。1933年由团转入中国共产党。

土地革命战争时期，从县独立团战士到红一方面军司令部机要科科员，援西军司令部机要科科长。参加了中央苏区第四、五次反“围剿”战斗和二万五千里长征。1937年，任八路军总部特务团营政治教导员。“百团大战”前夕，他化装冒险进入敌军据点，深入敌军指挥部侦察，甚至冒名顶替敌新调来的少佐，连续察看敌人三个岗楼后，遇上了敌真少佐，且机智脱险，被传为佳话。抗日战争时期，任八路军一二九师政治部锄奸科干事、中国人民抗日军政大学第四期学员、五大队政治指导员、一分校三大队保卫股股长、学员队九营政治教导员、八路军总部特务团三营政治教导员、总部良沟（兵工厂）自卫大队政治委员、晋豫军区中条支队政治部主任，中央党校学员。解放战争时期，任东北民主联军东满军区第二十三旅政治部主任，吉黑纵队政治部副主任，抗大吉林分校政治部主任，独立第六师政治部主任，第四野战军四十三军一五六师副政治委员，江西南昌军分区政治委员。1947年，中央对解放长春实行“长围久困”的战略方针，长春被解放军围得水泄不通，时任师政治部主任的江学彬深入火线，和战士们一道，在敌人的前沿阵地采用各种方法，把大量的宣传品投送到城内，向敌军展开强大的心战攻势，起到了瓦解敌军的良好效果，江学彬受到上级首长的表彰。