石霜寺附近景色优美，清人徐旭旦《石霜寺》诗云：

春深玉殿紫苔封，簇绕屏山翠几重。

鸟识磬声仍下食，云移潭影恰闻钟。

龙华地变黄金界，鹫岭南归白社宗。

我爱远公栖遁好，再来挥麈抚长松。

石霜寺内外有十八景。山上有连理枝，河两岸各有一树隔河相会，枝枝相连。有引路松，一排松树，枝伸一方，状若引路。又有虎爬泉。据清顺治年间浏阳知县韩景《石霜寺记》：“传开山时，僧苦远汲，忽夜闻虎吼。诘旦，视崖间石壁，上有虎爪痕，泉五道喷出如沸，名虎爬泉。盖道力宏远，猛兽亦为效灵也。”清光绪时任两广盐运使的浏阳优贡黄征有《虎爬泉》诗云：

几幅袈裟地，禅林托钵初。

传闻泉竭绝，曾费虎爬梳。

鸿雪犹留印，龙云宛辟畲。

名山总神异，不必道凭虚。

石霜寺创建于唐僖宗（874-888年）时期沙门庆诸之手。庆诸（？－888），《五灯会元》有传，俗姓李，庐陵新淦（今江西清江）人，拜绍銮为师，出家学佛。初参访沩山灵佑，在密印寺当米头，后又到道吾山参访宗智。一天，宗智说：“我心中有一物，久而为患，谁能为我除之？”庆诸答：“是物俱非，除之益患。”家智赞之，封为普慧禅师。传说庆诸初到石霜山，找到里正要求施舍一块袈裟大小的土地建寺，里正应允后，庆诸将袈裟抛向空中，竟遮盖了墨庄、都庄。石庄三村土地。里正惊悔，协商后将石庄拨出建寺，庆诸为住持，开堂说法。时宰相裴休贬为湖南观察使，笃信佛教，执笏来访。庆诸指其笏说：“此物在天子手中为珪，在官人手中为笏，在老僧手中且道唤作什么？”裴休无言以对，遗笏而去，后建遗笏堂。此笏虽曾遗失多次，终完璧归赵，至今仍在，为寺存八宝之一。庆诸居石霜寺30年，僧众追随者上千人，其中十之七八参禅长坐不卧，屹若株杌，谓之“枯木禅”，名声远扬。唐僖宗派人赐紫衣，不受，后为之大造寺院，由裴休监造。石霜寺遂成为湖湘名寺。相传唐父僖宗的第三个儿子，即普闻禅师，在石霜寺出家，法号“龙湖”，山涧旧有“太子桥”遗迹。唐代高僧慈明、楚图及其弟子慧南、方会，在黄龙山、杨歧山布道讲经，创立黄龙、杨歧两佛教流派。

以后如楚圆、方会、慧南等名僧辈出，成为临济宗杨歧派和黄龙派的共同祖庭，在中国和日本禅宗史上，都有着极其重要的地位。有日本国明庵荣西和俊艿来此学法。回国创立了日本佛教中的临济宗、中严宗两派系。1983年，日本驹泽大学佛教部第五次佛教史迹访华参观团曾到石霸寺拜祖，并敬谒庆诸塔墓。

唐朝的石霜寺建筑宏伟，佛像庄严。寺修成后，朝廷赐给香火田，以充寺院经费。当时的石霜景色优美，古迹甚多。“内八景”有千僧锅、万人床、象牙朝笏、祖师袈裟、禅杖、包公砚池、枯木堂、自鸣钟。“外八景”有虎扒泉、盐醋井、飞来塔、仙女晒鞋、山人下棋、仙人推磨、打鼓岭、蛤蟆滴水。此外，山寺附近还有不少神话传说，颇为有趣。隔河相会、仙人椅、上马石、木鱼石、关公桥、棋盘石、引路松、太子桥等等，皆据自然景物，随意立名，引人入胜。寺前坪山门内及寺后现存有千年古柏、古银杏各一株，据说柏树还是幼苗时，即向左倾斜，小沙弥欲拔掉，被庆诸制止，用土石垒围正，故名为左柏，高30米，胸径达80厘米，枝叶繁茂。如今，树在人亡，佛塔累累，该寺的开山祖庆诸和尚和他的后继者就葬在寺的后山附近，而古柏和银杏仍迎朝送晚，屹立寺后。

著名的有普会（庆诸、慈明、楚圆）、普闻（龙湖）、慧南、方会等。中国佛教禅宗五家七宗，有两宗发源于石霜寺。《中国佛教》中云：“有楚圆，住石霜崇胜寺行化，其下有慧南、方会，开黄龙、杨歧二派，合前五家，号为七宗。与庆诸同时或稍后的著名禅师在石霜寺活动的，还有大善、性空、晖禅师等人。大善是为祖道一法嗣，性空是百丈怀海法师，晖禅师是庆诸法嗣。这些人都是唐末、五代间人。另外，庆诸传法师父道吾宗智墓塔从来也被迁来这里。到了宋朝，石霜寺出了不少禅师。见于禅宗史籍的有石霜楚圆、法永、节诚、石霜琳、守孙、宗鉴等人。其中楚圆是闻名全国影响深造的人物。石霜寺所以得名，就是从他开始。

又名慈明（987-1040年）因居潭州石霜寺，所以称石霜楚圆。他俗姓李，广西全州人，原是一读书人，22岁在湘山隐静寺出家为僧，游方到北方参访临济宗僧人汾阳善昭获悟。尔后石霜楚圆传法于杨歧方会，开杨歧派；又传黄龙慧南，开黄龙派。楚圆在善昭那里服役七年，辞去，与内翰杨大年、驸马都尉李遵勖论禅，从此往来杨、李之门，结为朋友。后以母老南归，先后游居江西洞山、宜春仰山等地。宜春太守黄宗旦，请居南源，住三年，弃去；以后又谒湘阴神鼎山洪湮，从此名重丛林，洪湮对楚圆的评价是：“楚圆见解独到，可使临济兴旺。”他先到道吾寺，次住石霜寺，又住南岳福严寺和长沙兴化寺。他在方丈室里插剑一口，拿一只草鞋一盆水放在剑边。每遇人来，就说：“看，看。”宋仁宗宝元元年（1038年），李遵勖派人请他到京师，仅月余，遵勖死，楚圆亲自送葬到坟墓山。不久，仁宗赐官船南归。仁宗康定元年（1040年），圆寂于长沙兴化寺，时年54岁，建塔于浏阳石霜寺。楚圆时当宋太宗、真宗、仁宗时期，在他以前，临济宗仅流传于北方，由于他的努力，才逐渐流传南方。其嗣法弟子有慧南、方会、可真、赞元、山政、有回、光用、道宽、悟真、保心、惟正、蕴良、惟廑、德乾、本言、源禅师、德章等人，就中以方会、慧南二人为最著。

俗姓冷，袁州宜春人。曾游江西筠州九峰山，落发为僧。去石霜寺参楚圆并得法，往返袁州杨歧山传法，开杨歧派；经白云守端、五祖法演、龙门清远、雪堂道行、晦庵慧光、蒙庵元聪相继传承，又传到了日本僧人泉诵俊芿。楚圆的另一法嗣慧南俗姓章，江西信州怀玉山人。11岁出家，师事怀玉山定水院智銮，19岁受具足戒，远游至庐山习禅，困受南昌文悦之劝，35岁参学，并得法于石霜楚圆，住洪州黄龙山崇恩禅院，开黄龙派。经晦堂祖心、灵源惟清、长灵守卓、育王介谌、万年昙贲、雪庵从瑾相继传承，又传至日本僧人明庵荣西（1141-1215年），他入宋参学，归国后，首创日本临济宗黄龙派，黄龙派在我国数传即绝，惟杨歧派独盛。杨歧方会传白云守端，端传五祖法演，演传圆悟克勤，勤传大慧宗杲与虎丘绍隆，他们都是全国性的禅宗著名人物。除楚圆等人外，其他著名禅僧在石霜寺者有：法永，系楚圆同门，他的禅语别有风趣；节诚，青原九世，云门宗人；守孙，杨歧方会嗣法弟子。这些人都是宋朝著名禅僧。

元、明两代石霜寺处于衰落阶段，至清石霜寺又逐渐中兴。中兴人物是莲尊，临济宗人。他为开山祖师庆诸禅师重建塔墓，上刻“唐青原第五世普会诸禅师塔”等字，今犹存。其他修建活动，据现存碑刻记载：雍正十三年（1735年）重修大佛殿；乾隆五十九年（1794年）修山门、两廊。次年续有修建。光绪五年（1879年）重修大悲阁。至于那时的管理体制，是法门丛林分六房僧人，依次相继为住持。迄民国时，石霜寺还有香火田112亩。1923年，又对大雄殿进行了一次重修，1948年石霜寺住持定宗开坛传戒，僧俗云集达千余人。以后传位于正龙，继传法龙。法龙，湖南体陵人。1953年参加医务工作，1984年病卒，是石霜寺最后一任住持。石霜寺现存建筑物布局是：中轴线上为山门、大雄宝殿、大悲阁。东边厢房，直排为云水堂，横排为客堂、库房、大寮、齐堂、祖堂。西边厢房直排为华严阁，横排为禅堂、关圣殿、二僧寮、方丈。其寺宇布局匠心独具，不同于一般丛林。石霜寺现存文物主要是：唐庆诸植古松柏、古银杏数株，树龄一千多年；僧人墓塔138座（现仅存10座）；各类碑记20块。

为了有计划地保护和恢复石霜寺这一佛教历史文化古迹，从1978年起，湖南省人民政府宗教事务管理局和长沙市佛教协会曾先后拨款进行维修和重建，海内外佛教徒也乐为布施。1991年，台湾唯一法师捐资新建山门。同年，国家划定石霜寺土地使用范围计一万三千八百多平方米。1993年，新修齐堂、禅堂，增设念佛堂，并定为“比丘丛林”，每年隆重地举行“佛七法会”。