北宫伯玉，是凉州湟中义从胡。

中平元年（184年）十一月，北地先零羌及枹罕、河关群盗起兵作乱，拥立湟中义从胡北宫伯玉、李文侯为将军，杀死护羌校尉泠征。北宫伯玉等人又劫持金城人督军从事边章与凉州从事韩遂，让他们管理军政。

凉州刺史左昌派盖勋率军驻守阿阳县，叛军见阿阳县无法攻破，便转向攻打金城郡，斩杀金城太守陈懿，攻烧州郡。

同年十一月，车骑将军张温在美阳击败北宫伯玉，令荡寇将军周慎乘胜追击，包围榆中，又令董卓讨伐先零、羌，都没有取胜。