生而灵异，五岁时，语出惊人。宁靖王闻其名，召见之，命作韵语，响应无穷，有“心定万事定”之语，宁靖王倔然，惊曰：“异哉斯童，他日必成国器”。随父亲入福建，福建人聚观其诗文。长大后，还为弟子员，都御史韩雍奇之。起初，宁靖王书元征二字送给张元祯，因以为名。韩雍改其名曰元祯，字廷祥，谓其为国家祥瑞也。

天顺三年（1459）举人，天顺四年（1460）进士，改庶吉士，授编修。

明宪宗即位，上疏劝行。三年守丧后，上疏言：“治道大本大原曰讲学、曰定治、曰用人、曰厚风化，行此四者，则庶政毕举”。未几，与时宰意见不合，于是乞归家。居二十余年，益潜心性理之学，名声益高。

弘治初年，召同修《宪宗实录》，进春坊左赞善，又上疏劝行王道，反覆几万言。实录成，升南京翰林院侍讲学士。乞归养母亲，家居九年。起任《大明会典》副总裁，升翰林学士，侍经筵日讲。明孝宗雅意向公特?低几就听之。旋丁母忧离任，服阕，擢南京太常寺卿，诏为《历代通鉴纂要》副总裁，改任太常寺卿兼翰林院学士，仍侍经筵日讲，并侍东宫讲读。未几，命掌詹事府事，管诰敕。上疏劝经筵宜讲太极图，东宫兼讲《孝经》《小学》，明孝宗欣然采纳，亟索太极图以观，曰：“天生斯人以开朕也，且将大用之”。不果。