一，东晋侨置。

咸康四年(338年)，晋侨置小黄县（安徽亳州市区），属陈留侨郡。隆安三年(399年)，后秦废。北魏复置，为陈留侨郡治所。后为实县，隋开皇三年(583年)，撤销陈留郡，为亳州治所。大业三年(607年)四月改小黄县为谯县。

二，南朝宋侨置。

南朝宋泰始七年(471年)，置小黄侨县（今安徽寿县板桥镇附近），属侨置陈留郡。

北魏永平元年(508年)入北魏废。

北魏熙平元年(516年)，今县境入梁复小黄侨县。仍属侨置陈留郡。

东魏武定六年(548年)八月入东魏，小黄改名黄城属谯州（治涡阳，今蒙城县城关镇北）下蔡郡（治黄城）。北齐因之。

陈太建五年(573年)，伐北齐。十月乙巳，黄城又叫小黄县。还属侨置陈留郡。北周因之。