父晖，字长祚，身长八尺余，师事欧阳汤，汤甚器爱之。有一童子，与晖同志。后二年，童子辞归，从晖请马。晖戏作木马与之。童子甚悦，谢晖曰：“吾太山府君子，奉敕游学，今将欲归。烦子厚赠，无以报德。子后位至常伯，封侯。非报也，且以为好。”言终，乘木马腾空而去。晖乃自知必将贵也。乞伏炽磐以晖为辅国大将军、凉州刺史、御史大夫、西海侯。磐子暮末袭位，国政衰乱，晖父子奔吐谷浑暮璝，暮璝内附，晖与承根归国。

世祖素闻其名，颇重之，以为上客。后晖从世祖至长安，有人告晖欲南奔，世祖问曰：“何以知之？”告者曰：“晖置金于马鞯中，不欲逃走，何由尔也？”世祖密遣视之，果如告者之言，斩之于市，曝尸数日。时有儒生京兆林白奴，钦晖德音，夜窃其尸，置之枯井。女为敦煌张氏妇，久而闻之，乃向长安收葬。