冯昱多权略，有武艺。杨坚初为丞相，以行军总管与王谊、李威等讨平叛蛮，拜柱国。开皇初年，又以行军总管屯乙弗泊（今青海乐都）防备胡人。突厥数万骑掩杀，冯昱力战累日，寡不敌众，竟为虏所败，亡失数千人，杀虏亦过当。其后备边数年，每战常大克捷。骁勇善射，有将帅之才，每以行军总管屯兵江北，抵御陈朝，数有战功，为陈朝所惮。参加伐陈之役，平定高智慧反乱，皆有殊绩，册封白水郡公。