唐天宝元年(742年)东京道门成议使、天师道传人张探玄，奉玄宗之命，为玉真公主在王屋山选址建观。观建在西玉阳山仙人台下的古奉仙观旧址上，玄宗于山门御题：“灵都观”。

晚唐诗人李商隐少时曾学道于玉阳，号玉溪生。元代，丘处机弟子张志谨曾住持灵都观，复盛一时。明清两代多有修葺。

元大德九年(1305年)《御赐灵都万寿宫图碑》载，该宫系前后两院，依中轴线而筑。创建时灵都观前院为两进院落，次第为山门、大殿、楼阁与钟楼、鼓楼、角楼等，计13座20间；后院为三进院落，次第为翼门和前、中、后大殿及东西配殿等，计15座42间。原占地东西70米，南北100米，总面积7000平方米。现仅存玉皇殿，面广三间，进深六架椽，系清代单檐悬山式木构建筑。

李商隐在十五六岁的时候，即被家人送往河南省济源市西玉阳山学道。其间与玉阳山灵都观女氏宋华阳相识相恋，据考，李商隐所写的以《无题》为题的诗篇，计有二十首，其中以“相见时难别亦难，东风无力百花残。春蚕到死丝方尽，蜡炬成灰泪始干。”最为著名。