少举明经，累除殿中侍御史，出为益州录事参军。时隆州司马房嗣业除益州司马，除书未到，即欲视事，又鞭笞僚吏，将以示威，景俭谓曰：“公虽受命为此州司马，而州司未受命也。何藉数日之禄，而不待九重之旨，即欲视事，不亦急耶？”嗣业益怒。景俭又曰：“公今持咫尺之制，真伪未知，即欲揽一州之权，谁敢相保？扬州之祸，非此类耶。”乃叱左右各令罢散，嗣业惭赧而止。俄有制除嗣业荆州司马，竟不如志，人吏为之语曰：“录事意，与天通，益州司马折威风。”景俭由是稍知名。入为司宾主簿，转司刑丞。

天授中，与徐有功、来俊臣、侯思止专理制狱，时人称云：“遇徐、杜者必生，遇来、侯者必死。”累迁洛州司马，寻转凤阁侍郎、同凤阁鸾台平章事。则天尝以季秋内出梨花一枝示宰臣曰：“是何祥也？”诸宰臣曰：“陛下德及草木，故能秋木再花，虽周文德及行苇，无以过也。”景俭独曰：“谨按《洪范·五行传》：‘阴阳不相夺伦，渎之即为灾。’又《春秋》云：‘冬无愆阳，夏无伏阴，春无凄风，秋无苦雨。’今已秋矣，草木黄落，而忽生此花，渎阴阳也。臣虑陛下布教施令，有亏礼典。又臣等忝为宰臣，助天理物，理而不和，臣之罪也。”于是再拜谢罪，则天曰：“卿真宰相也！”