1646年（顺治三年）考中进士，历任翰林院学士、户部侍郎、左都御史、刑部尚书等职。任户部侍郎期间，曾出京勘验田亩，以确定田赋征收数额。因区划得宜，农村没有出现百姓转徒失业的现象。任左都御史期间，艾元徵多次上书请求朝廷广圣孝，重国本，整饬官场风纪，屯田养民，缓征赋税。任刑部尚书期间，狱无分大小，必求其合于情理和法律，即使受到皇帝责备，也不心存芥蒂，而是一如既往，忠心耿耿为朝廷交力。

1676年（康熙十五年），艾元徵病逝，康熙帝感其忠诚，特派山东省布政使施天裔前往拜祭。