刘虎，唐朝修撰《晋书》因避唐唐高祖祖父李虎之讳，改作刘武。永嘉三年（309年），父亲刘诰升爰（一名刘训兜）去世，刘虎继任匈奴铁弗部首领之位。刘虎居住在新兴的虑虒之北。北方人把父亲是匈奴人、母亲是鲜卑人的混血儿称作“铁弗”，所以刘虎便以此为号，称为铁弗部。

刘虎开始时臣服依附于晋朝，自认为部落人马逐渐增多，于是举兵背叛晋朝。永嘉四年（310年）十月，晋朝并州刺史刘琨联合代国共同讨伐刘虎。代国君主拓跋猗卢派侄子拓跋郁律率领二万骑兵协助刘琨打败刘虎。刘虎收集残余部众，西渡黄河，据守在朔方的肆卢川，并归附汉赵皇帝刘聪。刘聪把刘虎当作宗室，任命他为安北将军、监鲜卑诸军事、丁零中郎将，封为楼烦公。

太兴元年（318年）六月，刘虎率军从朔方渡过黄河，侵略代国西部地区。七月，代国君主拓跋郁律率军迎击刘虎，刘虎大败，逃到塞外，刘虎的堂弟刘路孤率领部落民众投降代国。