父亲尉迟迥不满杨坚，起兵反抗。尉迟惇率军十万进抵武德县（今河南武陟东南），在沁水东岸布阵二十余里。高颎在沁水上架桥。尉迟惇在上流纵火筏烧桥，高颎则命人填“土狗”以阻火筏。尉迟惇下令部队稍稍后退。大将军韦孝宽见机不可失，命大军迅速前进，渡过沁水。高颎下令焚烧浮桥，断绝士卒逃走的念头。至八月十七，韦孝宽大破尉迟迥于邺城（今河北临漳西南）。尉迟迥兵败，自杀身亡。尉迟惇单骑逃往邺城，遭到韦孝宽军乘胜追击。尉迟惇向青州（山东省青州市）逃奔，途中被郭衍擒杀。