相传秦并六国时，有楚康王者，逃难谷中，因此得名。

根据记载，陆羽在《煮茶记》中对品评过的江、淮、井、泉以及雪水，并列出了二十品，其中庐山康王谷谷帘泉水第一；庐山招贤寺下方桥潭水第六；洪州（南昌）西山西东瀑布水第八。从此，谷帘泉名噪天下当年陆羽来到谷帘泉，品尝泉水之后，赞誉“甘腴清冷，具备诸美”，因而命名为“天下第一”，并记入《入蜀记》中。北宋文学家王禹在《谷帘泉序》中评价称：“水之来，计程一月矣，而其味不败，取茶煮之，浮云散雪之状，与井泉绝殊”。宋代文人苏轼、陈舜俞也以饮谷帘泉为快，赋诗赞叹“天下第一泉”的名不虚传。一首阿炳的《二泉映月》使无锡的“天下第二泉”名闻中外，而地处江西的“天下第一泉”却鲜为人知。