火拔归仁在父亲去世后，承袭燕山郡王、兼火拔州都督，在河西节度使哥舒翰帐下为将。

天宝十三载（754年），火拔归仁升骠骑大将军。

天宝十五载（755年），安禄山起兵反唐。朝廷将哥舒翰召回长安，担任皇太子先锋兵马元帅，以王思礼、李承光、苏法鼎、管崇嗣及蕃将火拔归仁、钳耳大福、李武定、浑萼、契苾宁等为裨将，率领河陇、朔方及蕃兵与高仙芝旧部兵马二十万，进入潼关，抵御安禄山叛军。

天宝十五载（756年）六月八日，哥舒翰在潼关外大败。大军败后，哥舒翰从首阳山西边渡河，进入潼关津驿，关门防守。其将王思礼收集余军，更欲再战。火拔归仁对哥舒翰说：“敌军逼来，相公且宜西行避之，以图去就。”哥舒翰上马出驿。