李国臣，是河西道的粟特人，本姓安。李国臣力气极大，以折冲官身份参与收复鱼海五城，升任中郎将。后担任朔方军的部将，累功任云麾将军，被朝廷赐姓为李。在乾元二年（759年）的河阳之战时，李国臣随朔方节度使李光弼守卫河阳三城。

永泰元年（765年），仆固怀恩游说吐蕃、回纥、党项、吐谷浑等大举入侵，唐代宗命河东副元帅郭子仪率军一万驻守泾阳。郭子仪到泾阳时，敌军已经围城。郭子仪命李国臣与部将高升、魏楚玉等各当一面，而自率甲骑二千人出入于阵中。最终劝退回纥，并追破吐蕃。十月，李国臣因功被封为临川郡王。

大历八年（773年），李国臣出任盐州（治今陕西定边）刺史。同年，朔方军马使浑瑊与入侵的吐蕃交战于黄菩原，但遭遇失败。吐蕃想要乘胜掠沂阳（今陕西千阳）、陇州（今陕西陇县）等地，李国臣对人说：“吐蕃乘胜必定要进犯京郊，如果我跟随在其后，吐蕃一定要返顾。”于是帅兵进于秦原（今甘肃清水），鸣鼓西行，每日进军三十里。吐蕃闻讯，进至百城（今甘肃灵台西）后撤军。浑瑊设伏于险要路口，夺回被吐蕃掠去的百姓及物资。泾原节度使马璘也出精兵袭击位于潘原的吐蕃辎重，杀数千人，吐蕃于是逃去。