北宋崇宁年间（1102～1106）设立，负责兵器的制造和兵器法式的制定。其制定的兵器法式，经皇帝批准后，颁发各路军器制造机构，作为制造兵器的标准。北宋政和二年（1112），皇帝曾下诏各路兵器制造机构，按照熙宁年间所确定的法式和御前军器所所制订的法式制造军器，不遵守者要受到处罚。南宋初年，原来的军器监并归工部，东、西作坊及都作院并入军器所。以提点官两名、提辖、监造官各两名等管领，“掌鸠工聚材、制造戎器之政令”。嘉定（1208～1224）以后，军器监所属的职权统归于军器所。《宋史》记载，军器监和军器所的万全军匠定额为3700人，东、西两个作坊的编制员额为5000人。后来，随着军器生产规模的扩大，军器所的工匠增加到5600余人。《宋史・志第一百五十・兵十一》载，当时内库“累岁兵械山积”。军器所规模的扩大导致政府财政支出加大，南宋绍兴后略有裁减。南宋军器所的隶属关系多有变化。最初曾隶属于内府，建炎年间曾有宦官担任军器所提点官。绍兴五年（1135）重归工部管辖，后复归于内府，绍兴三十年改隶工部。军器所在宋朝占有重要地位，其生产的兵器不仅精良而且数量巨大。军器所为南宋抗金斗争提供了兵器保障，对后世军器管理也产生了重要影响。