唐高宗仪凤二年（677年）改北周以来静边镇置，驻所在今青海贵德县河阴镇，管兵7000人，马100匹。属陇右节度使。唐代积石军曾建有佛塔，称多福七级浮图。驻地是唐军主要屯田区之一，因吐蕃常派骑兵来夺麦，一度被称为“吐蕃麦庄”。肃宗乾元元年（758年）军废，地入吐蕃。宋徽宗大观二年（1108年）复置积石军，治溪哥城（今青海贵德县河阴镇），隶熙河兰湟路，辖怀和寨、顺通堡、临松堡。金太宗天会九年（1131年），金攻占宋积石军，改积石军为州。天会十五年（1137年），金将积石州让给西夏。次年，西夏在此筑祈安城。后来金在祈安城东析置积石军，治所约在今甘肃省积石山县大河家镇（一说在今青海循化县境）。世宗大定二十二年（1182年），升积石军为积石州。