毡帽山南面半山腰上有一天然形成的山洞，里面供养着吉祥天女。从洞口延伸出的巨型岩石能发出清脆的声音，称它是罗汉用过的稚（集合僧伽的响器）。洞口外修有台阶和僧舍。其东侧稍高处有人工凿出的山洞，因洞内温都尔葛根新自画的金刚菩萨为主的众多上师、本尊、护法像，故称金刚菩萨洞（多尔色木宗）。山脚下曾有过经堂、活佛居室、仓房、曾舍等。在修复毡帽山古寺的过程中，本寺弟子桑吉拉布坦做出过特殊贡献。他修通了从南寺到毡帽山能走小汽车的土路，又从南寺拆庙废墟中检出砖瓦、石料、木材，背到毡帽山上，修复了台阶、盖起了僧房，洞口安装了门窗。