李公寿幼时，其外祖父崔惟善曾抚摸他的脑袋说：“此儿当为大器。”他自幼好学，进入国子监读书，后凭父荫补为良酝令。但他一心登科及第，最终在大安二年（1086年）如愿以偿。

此后，他历任弓箭库判官、金吾卫录事、直翰林院、詹事府主簿、试司直、右拾遗、知制诰等职。寿昌五年（1099年）十月被派到辽朝，谢贺生辰。还朝后，以殿中内给事通判黄州，后调任西京留守判官。此后历任礼部员外郎、刑部员外郎、尚书左司郎中、礼部郎中、秘书少监、司宰少监等职。乾统九年（1109年）十二月十二日，擢为御史中丞。翌年迁兵部侍郎，兼管选军司兵马达十四年之久，以称职著称。

天庆二年（1112年）七月，调任西北面兵马副使。后迁礼部侍郎、翰林侍读学士。其后又历任兵部侍郎、礼部侍郎、右谏议大夫、卫尉卿、知尚书都省事等职。天庆五年（1115年）正月出使辽朝，谢横宣。回国后任秘书监、知刑部事同知。天庆六年（1116年），迁迁国子监大司成兼直门下省。天庆七年（1117年）六月，擢为右散骑常侍。翌年，加工部尚书，出为西北面兵马使。己亥年（1119年），调任吏部尚书，十二月拜尚书右仆射，不久升左仆射。辛丑年（1121年）七月，再次出为西北面兵马使。他的旧日同僚大多升为宰辅，他却迟迟没有，一些人为他感到可惜，但他却泰然处之。