八岁，唐玄宗召见华清宫，擢尚辇奉御，累迁光禄卿。以哥舒翰陷贼，哀愤号恸，故吏裴冕、杜鸿渐等见之叹息。李光弼讨河北，哥舒曜请行，拜鸿胪卿，为李光弼副。降安太清、救宋州有功，改殿中监，袭封，为东都镇守兵马使。

唐德宗即位，召为左龙武军大将军。李希烈陷汝州，以周晃为伪刺史。诏拜哥舒曜东都汝州行营兵马使，将凤翔、邠宁、泾原、奉天、好畦兵万人讨伐李希烈。帝召见，问曰：「卿治兵孰与父贤？」对曰：「先臣，安敢比。但斩长蛇，殪封豕，然后待罪私室，臣之愿也。」帝曰：「尔父在开元时，朝廷无西忧；今朕得卿，亦不东虑。」及行，帝阻通化门。是日，牙干折。时以哥舒翰出师已如此，而斩持旗者，卒以败，今曜复尔，人忧之。哥舒曜击贼，收汝州，禽周晃以献，斩其将二人。李希烈退保许州，诏城襄城。曜以疲人版筑，不如按甲持重以挫之。帝不许，有诏督战。哥舒曜进次颍桥，雷震军中七马毙，哥舒曜惧，还屯襄城。李希烈遣众万人纵火攻栅，殪人于堑以薄垒，哥舒曜苦战破之。居数月，李希烈自率兵三万围哥舒曜，筑甬道属城，矢集如雨。帝遣神策将刘德信以兵三千援之，又诏河南都统李勉出兵互相掎角。李勉以李希烈在外，许守兵少，乘虚袭之。李希烈自解，乃遣部将与刘德信趋许州。未至，有诏切让，使班师。刘德信等惶惑还，军无斥候，至扈涧，为贼设伏诡击，死者殆半，器械辎重皆亡。刘德信走汝州。李勉恐东都危，使将李坚华以兵四千往守，贼梗道，不得入。汴兵沮，襄城围益急。帝乃诏普王（李谊）以荆襄、江西、鄂沔之师讨蔡州，诏泾原节度使姚令言救襄城。未行，京师乱，帝幸奉天。襄城陷，哥舒曜走洛阳。会母丧，夺为东都畿汝节度使，迁河南尹。