刘伯刍，字素芝，洺州广平人。登进士第，志行修谨。淮南杜佑辟为从事，府罢，屏居吴中。久之，征拜右补阙，迁主客员外郎。以过从友人饮噱，为韦执谊密奏，贬虔州掾曹，复为考功员外郎裴垍善其应对机捷，迁考功郎中、集贤院学士，转给事中。

裴垍罢相，为太子宾客，未几而卒。李吉甫复入相，与垍宿嫌，不加赠官；伯刍上疏论之，赠垍太子少傅。伯刍妻，垍从姨也。或谗于吉甫，此以论奏。伯刍惧，亟请散地，因出为虢州刺史。吉甫卒，裴度擢为刑部侍郎，俄知吏部选事。元和十年，以左常侍致仕，卒，年六十一，赠工部尚书。伯刍风姿古雅，涉学，善谈笑，而动与时适，论者稍薄之。