两晋南北朝多设此官，晋有郭洽、司马泰、桓石秀、王舒，前秦有徐成、王腾、吕光等均曾任此职。魏、晋、南朝宋及后魏时此官皆居五品。此官在晋与南朝为加官、散官性质的将军，晋世多为兼领刺史的方镇，地位较高，而南朝梁时则为八班中第三班，地位较低。另外，膺扬将军在魏孝文帝元宏和魏宣武帝元恪两朝的品级不同，孝文帝太和中，为第五品上，孝文帝以后改为从四品。