李芃早年即有才名，曾任上邽县主簿，后屡次升迁，任大理评事，摄监察御史、山南东道观察支使。唐代名臣严武任京兆尹时，调李芃为长安县尉，李勉任江西观察使，任命他为秘书郎兼监察御史。永泰初年，李芃兼任殿中侍御史。当时，宣饶二州贼人方清、陈庄聚众为盗，占据山洞，断绝江路，劫掠商旅，李芃请求李勉在秋浦置州，以兵守其要地，讨伐盗贼。李勉同意，上报唐代宗，得到批准，于是以宣州的秋浦、青阳、饶州等地设置池州，以李芃摄行事兼侍御史。不久，魏少游代替李勉为江西观察使，又任命李芃为检校虞部员外郎，兼任都团练副使。此后，李芃不断升迁，摄江州刺史，又被调任永平军节度使的李勉奏为校工部郎中、兼侍御史，摄陈州刺史。同年，汴州守将李灵曜叛乱，李勉任李芃为亳州防御使，开陈颍二州运路，以通漕挽。