春秋时晋国中都邑，战国时属赵。《史记·秦本纪》：惠文君后九年(前316) “伐赵取中都”，即此。汉置中都县，汉文帝为代王时都中都，武帝元封四年幸中都，均此。

北魏太平真君九年(448)中都县迁往榆次县，中都故城遂废。《元和郡县志》称，中都故城在平遥县西十二里。即今山西平遥桥头、冀壁二村之间有双林寺， 古称中都寺，为中都故城之所在。

隋开皇十年(590)中都称榆次县，仍属太原郡。自此县名历代均不改。