张治银，1920年6月生于河南省新县箭厂河乡段家冲一个贫苦农民家庭。1933年参加红军第二十八军黄安县（今红安县）第三区便衣队，在中共鄂东道委、第二十八军工作。坚持鄂豫皖地区三年游击战争。

全国抗日战争爆发后，第二十八军改编为新四军第四支队，任支队警卫员。1938年5月加入中国共产党。1939年7月任班长；8月，任安徽省定远县游击大队第二中队排长，后任副连长；同年11月任第四支队特务团连长。1940年3月任第二连政治指导员、第九连连长。1941年任新四军第二师第四旅第十四团连长；4月，任第三营政治教导员；10月，察觉所在第三营政治教导员陈某带部分干部战士准备投敌，了解真相后，团结广大干部战士，返回部队。受到新四军副军长兼第二师师长张云逸的表扬，并在《抗战报》上报道了多次。1942年春，入抗日军政大学第八分校干部队学习，并任干部队政治指导员。结业后于同年7月调第四旅第十一团第一营任政治教导员，第三营政治教导员。参加盘山、金牛山战斗，参与创建淮南抗日根据地。解放战争开始后，1945年9月，任黑龙江省哈东分区一团政治处主任。1946年4月，调任三团参谋长，后任副团长。参加了哈东地区的剿匪反霸斗争和“三下江南”的战斗。同年11月，任东北民主联军独立第二师三团副团长。1947年7月，任三团团长。率部参加了辽沈、平津战役。在辽沈战役中率部在昌图阻击，与国民党一个整师和一个坦克团激战数日，完成了预定任务。战后受到东北野战军总部的表扬。后调任四十七军一四五师六五六团团长。部队挺进大西南后，率部在广西平乐地区进行剿匪反霸。