程羽于晋天福中进士，任山西虞乡（今永济县）、陕西醴泉、四川新都县令，皆有政绩。程羽初任开封府判官时，宋太宗赵光义做京兆尹，对其非常敬重，太宗继位，拜羽为给事中，后为文明殿学士。羽辅佐太宗有功，升任兵部侍郎。宋太宗在京师赐程羽住宅，程羽病逝后追赠礼部尚书。他的之曾孙程珦即二程（程颐、程颢）之父。