庾准以门荫入仕，依附宰相王缙，王缙举荐他为职方郎中、知制诰，迁中书舍人。庾准没有文才，依靠阿谀奉承来提升官位，被时论所讥笑。寻改御史中丞，迁尚书左丞。王缙获罪，出京担任汝州刺史，再入京担任司农卿。他与杨炎关系亲密，杨炎欲杀刘晏，得知庾准与刘晏有嫌隙，乃用其为荆南节度使。庾准上奏得到刘晏与朱泚的书信，书信中对朝廷心怀怨恨，又召补州郡的士兵来抗拒命令。于是，唐德宗下诏赐死刘晏。因此，杨炎征召庾准为尚书左丞。

建中三年（782年）六月丁巳卒，时年五十一岁，追赠工部尚书。