白塔寺为山上最早建筑，始建于元代。据载，元太祖成吉思汗在统一大元帝国的疆域时，曾致书西藏喇嘛教的萨迦派法王。法王即派一著名喇嘛去觐见成吉思汗，该喇嘛途经兰州时不幸病逝，于是元朝下令修塔纪念。

元代所修白塔今已不存，现存塔为明景泰年间(1450-1456)镇守甘肃内监刘永成在旧址上重建。

清康熙五十四年(1715)，巡抚绰奇扩其旧制，名为慈恩寺。但百姓仍呼之为白塔寺。

明代所修白塔，七级八面，上有绿顶，下筑塔基，高约17米，为实心砖塔。每级每角均有翘起的砖刻小龙头，下系风铃，随风飘荡，声清音脆。塔的外表垩饰如雪，故称白塔。白塔建成后，几经强烈地震，毫无损伤，显示出我国古代劳动人民建筑之科学精巧，智慧之高超绝伦。