该行实行总行制，隶属省政府，系地方官办。资本总额初定为200 万元，民国30 年增为500 万元，均由省政府拨款。领导机构为董事会和监察大会，董事长照章由财政厅长兼任，董、监事人选均由省政府指派。总行在地方银行阶段设行长、副行长（民国32年增设襄理协助行务），省银行阶段设总经理、副总经理。分支机构下伸到县和重镇，分别为分行、支行、办事处，并根据业务需要在部分乡、镇设立寄庄。分、支行负责人均称经理，办事处称主任。总行初设芜湖，民国26 年（1937 年）8 月，为适应战时需要改在省城安庆设总管理处，同年12 月随省政府迁移六安。民国27 年4 月撤销总管理处，恢复总行制，5 月，日军侵占合肥、空袭六安，总行先移麻埠、再移立煌。其时，中央、中国、交通、农民4 行在安徽的分支机构仅屯溪一地尚有中国、农民两行，其余均撤离省境，安徽地方银行所在地立煌自然形成为全省金融中心。为便于调度，采取分区管理办法，在屯溪设立总行临时办公处，后改称总行驻屯溪办事处，统一指挥皖南行务。民国31 年5 月撤销总行驻屯溪办事处。抗战胜利后，总行于民国34 年11 月25 日随省政府迁合肥，次年12 月9 日，依照《省银行法》改组为安徽省银行。民国36 年9 月，人民解放战争胜利推进到安徽境内，该行开始收缩机构准备撤退，先在蚌埠设立省行办公处（一月后撤销），民国37 年12 月16 日又在芜湖设立总行办公处，并指定长江以北各撤退行处人员集中芜湖办公。民国37 年12 月21 日，总行随省府迁移安庆。民国38 年4 月13 日，经办省金库事务的人员随省政府迁移屯溪，总行机关大部撤往芜湖。解放后，民国38 年5 月该行为人民政府接管，副总经理郭子清在芜湖向人民解放军军事管制委员会办理移交。