平山堂位于大明寺大雄宝殿西侧的“仙人旧馆”内，始建于宋仁宗庆历八年(1048年)，元代曾一度荒废，明代万历年间重新修葺。清代咸丰年间，山堂毁于兵火，乃于清同治九年(1870年) 重建。因为平山堂名播海内，历史上人们便习惯地将这里的名胜古迹，包括西园、天下第五泉、谷林堂、乾隆御碑等统称平山堂。

平山堂确是个幽静所在，也是个驰目骋怀的好地方。门外建了木棚，棚上爬满藤蔓，走入时一片荫凉。堂前古藤错节，芭蕉肥美，通堂式的敞厅之上，“平山堂”三个大字的匾额高悬。堂为敞口厅，面阔五间。堂前有石砌平台，名为行春台。台前围以栏杆，栏下为一深池，池内修竹千竿，绿荫苒苒，因风摇曳。凭栏远眺，“江南诸山，拱揖槛前，若可攀跻”，含青吐翠，飞扑于眉睫似与堂平，“平山堂”之名即寓于此，似乎是把盛唐诗人王维的“江流天地外，山色有无中”的名句变成了一幅画图，展现在人们的眼前。堂上有一幅徐仁山集句题平山堂联对此作了形象的描绘：“衔远山，吞长江，其西南诸峰，林壑尤美； 送夕阳，迎素月，当春夏之交，草木际天”，风景这里独好。宋代苏门六君子之一的秦观有诗赞美：“栋宇高开古寺间，尽收佳处入雕栏。山浮海上青螺远，天转江南碧玉宽。雨槛幽花滋浅小，风卮清酒涨微澜。游人若论登临美，须作淮东第一观。”而同时的叶梦得则直称“壮丽为淮南第一”。