有关此泉的由来，有一段传奇故事：很久以前，青龙峪中沉睡着一条青龙，它是东海龙王的幼子。若醒来跃起，云雾交作，大雨倾盆。后来，因私自为当地百姓下了几场及时雨而被贬至人间，变成一个勤劳聪颖的小伙子，给五峰山西石窝村的一家财主扛活。财主见他憨厚能干，就把小女许配与他。天旱时，小伙儿夜间浇地，均畦满透地，但不闻辘轳声。邻人疑惑，便夜间窥视。只见青龙数丈，鳞光万点，将头伸入井中吸水，然后腾于空中，把水吐于田内。窥视者见此，惊叫一声吓倒。小伙儿知事泄露，决定离开此地。临走时与妻子告别说：“我是小青龙，家住青龙峪。”说完，化作一条青龙飞去。妻子紧追不舍，青龙生怕累坏妻子，便一头扎在今五峰山青龙峪中，化作一泓碧水，即今青龙泉。后来人们在泉旁修了龙王堂，以示纪念，并常来此祈雨。