廉泉有1500多年的历史，据说在北宋绍圣年间，苏东坡因反对王安石变法而被贬到惠州。路过赣州时，苏东坡拜访了当时著名的隐士阳孝本，两人很是投机，一同遍访当地名胜，在廉泉水边通宵长谈。苏东坡还赋诗道：“水性故自清，不清或挠之。君看此廉泉，五色烂摩尼”。后来人们在泉边建了夜话亭，在亭中竖了一块高2米多的石碑，上刻“苏阳二公夜话图”。这块石碑为江西省级文物保护单位。