西晋“八王之乱”后，北方总人口1500万，汉人三分之一。传世文献中有关羯人西晋时活动的记载颇为罕见。晋末并州一带的杂胡与匈奴已有明确界限,羯胡被视为杂胡而不属于匈奴的范围。羯胡首领石勒起兵之际麾下同姓人物极少，其本部兵力与刘渊的五部屠各夔安、支雄、冀保、吴豫、刘膺、桃豹、逯明、郭敖、刘征、刘宝、张曀仆、呼延莫、郭黑略、张越、孔豚、赵鹿、支屈六等“十八骑”，族属相当杂乱。目前已知王阳为胡人，孔豚可能也是胡人， 夔安为天竺人，郭黑略可能也是天竺人，呼延莫为匈奴人， 刘膺、刘征、刘宝、赵鹿可能也是匈奴人， 张曀仆、张越可能是羌渠人，支屈六为月支人。石勒征战河北各地，大批汉人进入其军中。在石勒军中及后赵政权下，也有汉人变作羯胡的事例。

入塞后的羯人保留着部落组织，部有大、小酋帅。羯人主要从事游牧和农业，生活贫困，有的为汉族地主佣工，有他们原信仰“胡天”（祆教），后来多信佛教。

羯族在东汉时期已开始随匈奴内迁。汉晋时期的羯人虽还保持有一定的游牧经济，但农业所占的比重越来越大。

即待石勒建立赵，政局稍稳以后就开始进行了农业化，他令右常侍霍浩为“劝课大夫”，与他人一起“循行州郡，核定户籍，劝课农桑”，平常赏赐也多以谷帛为主，如在巡幸冀州诸郡时，引见“高年、孝悌、力田、文学之士，班赐谷帛有差”。

从东汉末年张角起义开始，中原地区动荡不安，战乱迭起，百姓苦不堪言。五胡乱华时，又有大量的西北诸族和北方的鲜卑迁入中原。

公元四世纪，在战火纷飞的年代里，邢台里再次迎来了辉煌，这次定襄国为国都的人是一个叫石勒的羯族皇帝。因“国”在赵地，为与匈奴贵族刘曜建立的前赵区分，史称“后赵”。羯族政治家石勒在少年时代曾经倚啸于洛阳上东门（《晋书·石勒载记》），震惊了一代名士王衍，后来成为十六国时期后赵的建立者。石勒占据河北巨鹿、常山一带，亲自把“衣冠人物”（士大夫、文人）从治下普通军民中甄别出来，组织成立一个战乱中能够随军作战的最高学府和参谋团队，这就是“君子营”，给石勒集团提供了强大的人才、智力、谋略，甚至文化的支持。其中，“君子营”的谋士张宾，就是辅佐石勒开创后赵基业、雄霸北方的肱股干城。

石勒原是山西上党武乡人，在武安为人佣耕时为乱军抓去，卖给山东茌平财主师欢家作奴隶，石勒志向远大，骑马射箭，武艺精通，胆识过人，善于相马，一来二往，就和管马的汲桑交了朋友。公元319年，石勒即大单于、赵王位，荣登皇帝宝座，改元建平，依张宾之言，定都襄国。

从奴隶到皇帝，这是一个质的转变，也验证了陈胜那句话：“王侯将相宁有种乎”。石勒是山西上党人，羯族，奴隶出身，他目不识丁，但机智过人，善于率兵打仗，作战勇敢，“拼命三郎”的成语就是源自于他，“鹿死谁手”也是他亲口所言，他还将“胡瓜”改称为“黄瓜”。石勒打遍天下，可谓“一代枭雄”。

石勒出身贫困家庭，没上过学，不懂汉字。他重视人才，在城四门建立了宣文、宣教、崇儒、崇训等十几个学校，还亲自到太学监考，对优秀者加以褒奖。

石勒定都襄国时，城池破败，原有的赵都建筑几经沧海，早已荡然无存。石勒按周礼建宗庙社稷灵台，营造东西官署，历十八年完成了都城的建设。都城周长九里十三步，四角有子城拱卫，名“建平大城”。都城建四门，在永丰门摆上从洛阳拉来的铜马和翁仲，在城内修造正阳门、端门、建德殿、太武殿、徵文殿、单于庭、东堂、西阁、崇训宫、百尺楼、后宫等宫殿群，其中太武殿基座高二丈八尺，用名贵的大理石铺设装饰，下面是暗藏的房间，可以盛下五百名卫兵，负责保卫皇宫的安全。巍峨的太武殿，东西长有七十五步，南北长有六十五步，漆金的瓦当，纯金的柱子，纯银的楹联，珍珠的帘子，玉石装饰的墙壁，富丽堂皇。太武殿造好了，邺城的东西两宫同时完工。石勒命人把巨大的晷影从西晋的国都洛阳拉来，摆在单于庭上，用来观测日影确定时刻。命工匠把三十九个功臣的画像雕刻在石匣子上，放在建德殿前，以感念他们的功绩。第八殿显阳殿后是灵风台，是遴选宫女的地方。后宫一万多宫女穿着华丽的衣服，赏玩着无数的珍宝，其中女官分八等，嫔妃规定了名称和级别：昭仪、夫人、淑仪、美人视男等。城外有明堂、太学、灵台、桑梓苑、沣水宫等附属建筑群。

国家强盛了，自己又是皇帝，石勒一激动，干脆把山西老家的羯族百姓全部搬迁到襄国来，把朝臣官员包括贵族三百户迁至崇仁里。这条胡同如今叫崇礼街，墙边散落着风化了的抱鼓门墩和上马石，古韵犹存。

一个叫佛图澄的印度高僧，不远万里来到中国，携带异域神秘的佛教文化，嬴得石勒信任。佛图澄住锡襄国，令石勒钦佩不已。中原大地腥风血雨，民不聊生。年已八旬的西域佛教沙门佛图澄来到中原，看到这处处惨不忍睹的情景，决定发挥佛的人性化威力作用，感化上层统治者，拯救广大民众，以此弘传佛法。

羯人石勒于东晋元帝大兴二年（319）建立赵国，史称后赵，为十六国之一。参照魏晋王朝的法规建立各种政治制度，设立学校，提倡经学，阅实户口，劝课农桑，对安定社会起到一定作用。法政严苛杀人甚多。实行“胡汉分治”，禁说胡字，称羯人为国人，纵容羯人欺压异族。朝廷设有专门官吏门臣祭酒，管理羯人诉讼。333年，石勒死，侄石虎夺取政权，施行暴政，民不聊生，于349年为石虎养孙冉闵所灭。

石勒死后传位于太子石弘，石虎杀死石弘夺取了帝位。石虎残暴，但却无其叔那样的雄略，脑筋里只有三件事，一是淫欲，二是杀戮，三是享乐。

石虎发男女16万，运土筑华林苑及长墙于邺北。时逢暴雨，漳水水涨，死者数万人。他已有多处宫殿还不满足，又驱汉丁40余万营洛阳、长安二宫，造成尸积原野。修林苑甲兵，50万人造甲，17万人造船，从长安到洛阳再到邺城，成汉的使者见到沿途树上挂满上吊自杀的人。血腥屠杀和残酷的民族压迫，造成赤地千里的景象；人口的大量减少，土地的大量荒芜，伴之虎狼等野兽成群出现繁殖。

残留的汉人为了免于屠杀纷纷筑堡自卫和胡人对抗。这并不意味着一些人认为的坞堡遍地都是，当时的北方壁堡也要相隔百里才有一个。按鸣沙屈出土的《鸣沙石室佚书》记录：“永嘉大乱，中夏残荒。保壁大帅数不盈四十。多者不过四五千家，少者千家五百家。”由此推测当时北方的汉人约400万左右，其余多数逃往关中，东晋或者是辽东。后来石勒听取了谋士的建议，改变策略，永嘉六年（公元312年），石勒根据汉人张宾的建议，定都襄国。在南方石勒军长期与祖逖作战。祖逖死后，没人能有效的组织北方各堡与胡人对抗。公元320年前后，屈指可数的几个保壁大帅也最后降石赵，石赵王朝完成了对中原和关中的牢固统治。

到公元349年，迁居中原的胡人高达五六百万之多，数量上相当惊人。他们是在东汉、魏、晋、石赵四个朝代因各种原因迁到中原地区来的胡人。有被当时政府强迁进来的，有主动迁进来的。晋朝统治时期，在“南达长江，北到燕辽，西起关陇，东至东海”的广阔区域，不断的有各胡酋占山为王，扰乱地方。但大都不敢公开反对晋朝的统治，不对晋朝统治集团构成威胁。直到匈奴人刘渊和羯族人石勒等的出现，匈奴、羯人合流，胡人铁骑横扫了整个黄河流域，建立后赵。

后赵昙花一现，在血腥里瓦解迸散。

冉魏灭亡后，羯人在鲜卑的统治下以打仗为业。公元547年，羯人在侯景的带领下跑到南方梁朝统治区躲避北朝的打击，随后侯景造反，史称侯景之乱。后来南梁大将王僧辩召集陈霸先、杜龛、韦载等人率军讨伐，花了很大代价才扑灭叛乱。

当然，也有学者认为尔朱荣包括侯景这些所谓羯胡，实际上和十六国时期的羯胡不是一回事。《北齐书》的封隆之传记载：既至信都，集诸州郡督将僚吏等议曰：“逆胡尔朱兆穷凶极虐，天地之所不容，人神之所捐弃，今所在蜂起，此天亡之时也。欲与诸君剪除凶羯，其计安在”。一些学者认为，羯胡本属杂胡，羯人的血统本来就很杂，当时的人把羯人认为是不开化的，只知道杀戮的种族，所以史官把有过“河阴之变”屠杀的尔朱荣跟乱江南的侯景写成羯胡（实际上尔朱荣应该是山胡，侯景有可能是有鲜卑血脉的杂胡）。根据《北齐书》与北史、梁书之前此二人并没有被记载为羯人，所以此种说法也有一定的道理。