明太祖朱元璋为吴王时，于吴元年（公元1366年）设置御史台，其长官为左御史大夫和右御史大夫。洪武十五年（公元1382年）更置都察院，设监察都御史八人，秩正七品。以秀才李原名、詹徽等为都御史。洪武十六年（公元1383年），都察院设置左都御史和右都御史各一人，品轶升至正三品；左副都御史、右副都御史各一人，正四品。洪武十七年（公元1384年），都御史升为正二品，副都御史正三品。

明惠宗朱允炆即位后，于建文元年（公元1399年）对都察院进行改革，只设都御史一人。建文二年（公元1400年），又将都察院改为御史府，设御史大夫，直至明成祖朱棣即位后才复旧。

自顺治元年（公元1644年）开始，都察院设左都御史、右都御史、左副都御史、右副都御史，品秩为从一品，负责纠察中国十五道、在京百官。和明代不同的是，清代左都御史设置满族官员一人，正一品；汉族官员一人，正二品。在此之后，左都御史的品轶曾多次发生变化，直至雍正八年（公元1730年）定为从一品。而右都御史无固定员额。雍正元年（公元1723年）六科给事中划归都察院管辖后，凡总督授加兵部尚书衔者，按照惯例兼都察院右都御史衔，但不干预都察院工作。不加尚书衔则一律加兵部右侍郎兼都察院右副都御史衔，拥有右都御史和右副都御史的总督在其辖境内可兼行监察权，以表明其地位之特殊。