庾黔弼在统一新罗时期出生于平州，后加入泰封国的军队成为将领。高丽太祖王建在位时，担任马军将军，累转大匡。当时高丽与后百济交战，而北方又叛乱，太祖派庾黔弼去北方镇守。庾黔弼筑城而居，召集酋长三百余人设宴款待；待其喝醉，以威胁之，于是酋长皆服，纷纷归附，北方遂平定。太祖特加褒奖。

925年（太祖八年），庾黔弼为征西大将军，攻后百济的燕山镇，杀死将军吉奂；又攻任存郡，杀获三千余人。太祖与后百济王甄萱在曹物郡交战，因后百济兵锋甚锐，太祖便与之相持，欲老其师。庾黔弼率兵支援，使高丽兵势大振。甄萱便派人与太祖和解。

927年（太祖十二年），太祖派他建造汤井郡的城池。后百济三千余人攻青州，庾黔弼引兵往救，杀获三百余人。翌年甄萱包围古昌郡，庾黔弼随太祖往救。行至礼安镇时，太祖问若战事不利该怎么办，庾黔弼说临阵不战时怎能先说败北，并表示愿意进军急击。太祖从之，庾黔弼自猪首峯奋击，大破后百济军。太祖入郡时，说此战胜利都是庾黔弼的功劳。