望衡亭位于湘江北岸石嘴垴陶公山下，是国民革命军陆军中将王捷俊于1932年筹资修建。

相传陶侃曾在此屯兵，在江边建有“望岳”、“钓鱼”二亭，元御史燮理浦化曾题《望岳亭》诗：“十载重来一凭栏，光阴不改旧江山。亭高下瞰龙藏室，天远遥观虎拜斑。耕钓每怀生处乐，驰驱未许老来闲。雄风入座披襟好，静看渔舟上锦湾。”后来，该亭几经兴废，此处又出现过黄叶亭、观湘楼、陶公亭等。皆不存。

1932年，由王捷俊将军筹资在陶公亭原址兴建新亭，建成后，登高远眺，南岳衡山隐约可见，岳麓红枫历历在目，因仰陶公“望岳”之义，故名“望衡亭”。

据《建筑湘潭县望衡亭碑记》记载：“亭以石为基，步石磴以登至亭楼。石栏周环，凭栏四顾，江干风景掩映眼中。自楼亭左旋，循铁梯而上，为亭之中层，再上则平台矗立。南望衡峰，朝阳碧色，隐约于烟云缥缈间；而大江环绕，逦迤以达于麓山。叠障层峦，出没于风沙望里。上下波光，帆鸟翔集，蓼渚芦汀，参差夕照。风景如斯，诚足乐也。每值四时佳日，游斯亭者，凭高远瞻，万里孤怀，触感兴亡，尘念俱寂，能不有江海无涯之慨乎，益令人不能忘情于斯亭者矣！”