汉武帝时期，设置中都官，主管都城内部的刑狱。

汉成帝时期，设置三公曹尚书，负责断狱。

光武帝刘秀即位，设置中都官曹尚书，作为尚书台的下属机构，负责水火盗贼事。

曹魏时期，设置尚书都官郎，佐督军事。

十六国时期，燕国设置尚书都官曹，以都官尚书为长官。

南北朝时期，设置尚书都官郎曹，职掌军事刑狱。

隋朝初年，沿置官职。开皇三年，改名刑部尚书，下设都官司，后代因之。