宋文帝欲大举北伐，刘康祖因错过了最佳出兵时间，建议等明年再北伐。宋文帝因当时河北义军都响应，若顿兵一年，会减损义军的积极性，下令立刻发兵北伐。当年秋，萧斌、王玄谟、沈庆之等入黄河，刘康祖率豫州军出许、洛。王玄谟等败归，魏军南度。南平王刘铄在寿阳，宋文帝担心被敌人包围，召刘康祖快速返回。刘康祖回军，离寿阳还有数十里处时，此时北魏永昌王拓拔仁率长安的兵马共八万骑，与刘康祖在尉武县（今安徽寿县）相遇。刘康祖凡共有八千人，副将胡盛之打算附山依险，走小道进入寿阳。刘康祖愤怒地说：“我受朝廷之命，要讨平河洛的敌人。敌人今天自己送上门，不需国家远征，敌军虽多，其实很容易讨灭。我的兵员强壮武器精良，这里距离寿阳才数十里，援军很快来到，有何畏惧的！”刘康祖于是把军中的运输车结成阵营前进。魏军四面来攻，刘康祖大战一日一夜，杀敌繁多。魏军将军队分为三队，轮番上阵和宋军战斗，又以军马背负着稻草焚烧刘康祖组建的车营。刘康祖率领勉励将士，宋军士兵无不以一当百，魏军被杀超过了半数。此时刘康祖被箭矢射中脖子而死，宋军于是大败，宋军阵营沦陷，被魏军屠杀殆尽，只有数十人幸存。魏军把刘康祖的首级传送给彭城，样子就像活着时候一样。