西汉文帝前元四年（前176），呼揭国被匈奴人征服，并且以单于子弟为呼揭王。《史记·匈奴列传》：匈奴人“定楼兰、乌孙、呼揭及其旁二十六国，皆以为匈奴 。”

颜师古注《汉书·陈汤传》时，引东汉人服虔的话说：“呼偈，小国名，在匈奴北。”

自东汉至魏、晋，呼揭人通过逃亡和随匈奴内迁，先后进入中国。有研究者认为，西晋末年，他们形成为我国北方的统治民族之一。呼揭族即后来在十六国建立后赵政权的羯族。