汉二年（前205年）四月，汉王刘邦攻入楚都彭城，不久被楚王项羽回师大败而撤还。五月，刘邦屯驻在荥阳，汉丞相萧何发动关中地区没有载入徭役簿籍的老人少年，全部送去支援荥阳，汉军重新士气大振。

项羽的军队又来进攻荥阳，其中骑兵很多，刘邦就在军中挑选能够担任骑兵将领的人，大家都推举原来的秦朝骑士重泉县人李必、骆甲，他俩对骑兵很在行，同时现在又都担任校尉之职，因此可以担任骑兵将领。刘邦准备任命他们，但他们二人说：“我们原为秦民，恐怕军中士卒觉得我们信不过，所以请您委派一名常在您身边而又善于骑射的人做我们的首领。”当时灌婴虽然年轻，但在多次战斗中都能勇猛拼杀，所以就任命他为中大夫，让李必、骆甲担任左右校尉，带领郎中骑兵在荥阳以东和楚国骑兵交战，把楚军打得大败。