宋朝复为衡阳郡。

元朝改衡州路。

明洪武二年《二三八九》改为衡州府。

清乾隆二十二年《一七五七》，析衡阳东南境置清泉县。于是，衡州府辖衡阳、清泉、衡山、耒阳、常宁、安仁、酃县七县。

衡阳县、清泉县，其区域大约即衡阳市区、衡阳县、衡南县地。

衡山县，其区域大约即衡山县、衡东县及南岳区地。

耒阳县，其区域大约即耒阳市地。

常宁县，其区域大约即常宁县地。

安仁县，其区域大约即安仁县地。

酃县，其区域大约即炎陵县地。

衡州是今广东境内历史上继广州之后出现的第二州,在粤北地区则属第一州。衡州不仅设置的时间早于广州以外的诸州,而且辖境也远远大于它们。衡州初置时,领辖今广东境内的清远、阳山、始兴三郡和今湖南境内的桂阳(今郴州市东部诸县)、平阳(今郴州市西部诸县)二郡,地跨骑田岭南北,版图相当于今广东清远市、韶关市和湖南郴州市面积之和,地域阔达5.7万平公里。

隋朝

公元589年，隋灭陈并改郡为州，改湘东、衡阳两郡为衡州、临蒸为衡阳县，州、县城均设在衡阳江东区。唐天宝年间又将衡州改称衡阳郡，唐乾元元年复用衡州。肃宗至德二年置衡州防御使，领衡、涪、岳、潭、郴、邵、永、道八州。公元764年,唐王朝为了加强对湖南地区的控制,设置湖南观察使。这是历史上最早出现“湖南”之名，湖南观察使驻衡州。宋置衡州衡阳郡。元朝确定行省制度，省下设路，置衡州路，属湖广行省（治武昌，今武汉）。元贞元年(1295) 衡永郴桂诸路人民抗粮、抗丁，起义频繁，朝廷于衡州设行枢密院。

明朝

明朝置衡州府辖衡阳县（衡阳市区、衡阳县、衡南县）、衡山县（南岳区、衡山县、衡东县）、耒阳县（耒阳市、安仁县）、常宁县（常宁市）、茶陵州（茶陵县、攸县、炎陵县、安仁县）、桂阳州（桂阳县、临武县、蓝山县、嘉禾县），明朝中后期设桂王藩国，都衡阳。清代湖广行省分为左、右布政使司，康熙三年（公元1664年）分为湖南、湖北两省。置衡永郴道，驻衡州府，领衡州府（衡阳县、清泉县、衡山县、耒阳县、常宁县、安仁县、酃县、桂阳州、临武县、蓝山县、嘉禾县）、永州府（零陵县、祁阳县、东安县、道州、宁远县、永明县、江华县、新田县）、郴州（永兴县、宜章县、兴宁县、桂东县），雍正十年(1732)增领桂阳州，更名衡永郴桂道。公元1676年，吴三桂在衡阳称帝，国号周。衡阳称应天府（国都）。

清代

清代乾隆二十年（1755年）(据清编《湖南通志》卷一百二十三职官十四清泉县知县条记载有云“乾隆二十一年设”)，把衡州府衡阳县以“路当要冲事繁难治”为由分东南之境置清泉县，西北为衡阳县。因衡州东乡有一名山叫清泉山，以此山名县叫清泉县。清泉山位于泉溪镇境内。清泉山上有一清泉，冬夏不竭，泉味甘美，为酃湖水之源，酿出古代之酃绿美酒。清代大学士朱佩莲曾在衡阳为官，在《清泉杂咏》中赞：清泉山下出泉清，万顷酃湖逗一泓；酃绿见珍张载赋，原来缩酒贡南荆。民国时复并衡清两县为衡阳县。

民国

民国三年（1914年），废府存道，改衡永郴桂道为衡阳道，俞寿璋任道尹。衡阳道（全省三道：衡阳道、湘江道、辰沅道）所辖县仍如清代衡永郴桂道，治所衡阳，直辖湘南36县。1936年，衡阳设立粤汉、湘桂铁路局，管辖湘、桂、粤、鄂四省铁路。1937年，全省分十个行政督察区，第二行政督察区专员公署驻衡阳，辖衡阳、衡山、常宁、耒阳、攸县、安仁、酃县、茶陵。1939年春自湖南省政府沅陵迁至耒阳。省政府设在水东江至竹市一带，秘书厅设于杜陵书院（今耒阳一中校址）。抗战爆发后，随着国民政府政治、经济、文化重心的西移，衡阳的经济和社会迅速发展和演进，不仅是南方交通枢纽，而且成为大后方最重要的物资集散地和工商业中心，人口急剧增加到60万。因此，1941年1月，湖南省政府决定将衡阳县东华、雁峰、西湖、石鼓、江东5镇和城郊的广福、奇罡、酃湖3乡区域设置衡阳市，直属湖南省政府，衡阳县治所仍驻市内。1942年1月1日，国民政府设衡阳市，属省辖，市长朱玖莹。1943年为国民政府第二大工商业城市，人口近100万。1944年二战中国历史最长的战役——衡阳保卫战致使全城被毁，全城仅剩三栋建筑。