明清时期，提刑按察使司设在此街南段以东，原址今为山东省济南第一中学，街名即因提刑按察使司而得名。

1994年，按察司街北起大明湖路，南止泉城路，东邻黑虎泉北路、后湾街、马园子街，西邻县学东庑街、泮宫街、拉马巷、南北仓巷和东箭道街。

2021年10月，入选《济南市第一批传统地名保护名录》。