“三台阁”始建于明建文初年（1399年），乃明朝第一代肃庄王朱瑛于洪武三十一年（1398年）移藩兰州后所建。当时明肃庄王朱楧为兴地方文脉和登高以寄思乡之情遂建魁星阁。

据《重修三台阁记》载，山顶旧有魁星阁。魁星，为“奎星”的俗称，原为二十八宿之一，后被奉为主宰文章兴衰的神。据顾炎武《日知录·魁》载:魁星神像头部像鬼，一脚向后翘起，一手捧斗，一手执笔，意谓用笔点定文人的姓名。由于人们将魁星阁俗称为三台阁，年深日久，遂忘其本名。

乾隆三十三年(1768年)，兰州知府勒尔谨主持重修；乾隆壬辰年（1772）陕甘总督勒保“求寻故址，倡议茸修”，但重修后不到10年“复坠兵燹”，“惟残碣仅留，而断材薄植，无一存者”；乾隆四十六年(1781年)毁于兵火;直到道光壬辰年（1832）陕甘总督杨遇春责成僚属和当地士绅捐资重修，历时三年，建成“神阁一楹，图崇三级，厢房三间：左右墩高三丈余。”数年后，阁被风雨剥蚀，兰州士绅重加修饰，在阁台上层装上板门，中层围以砖墙，添修厢房三间，挖窖引水，栽树成荫。但后又渐次荒废。同治五年(1866年)又在战乱中被付之一炬，人文景观屡次成为战争的牺牲品。延至民国初，张广建主政甘肃，命人重建三台阁，规模超越了前代，成为当时兰州一大景观，以至于有人误认为三台阁就是张广建创修的。不料在1920年的海原大地震中三台阁被震坏，以致后来完全坍塌。在解放兰州的战役中，三台阁遭到损坏。三台阁又于1984年重修，由任震英、韦醒民、张成山设计，利用仅存的中台残垒，外裹青砖，上建重楼，阁高26米。至此，有着六百多年历史的三台阁才得以重现。