为纪念清圣祖於康熙二十二年（一六八三年）春二月西巡五台，事毕回銮至此时为民射死一苹猛虎之事，将此地改名射虎川，并创建此寺。

康熙二十四年（一六八五年），於此设大喇嘛一员，格隆班弟二十五名，焚修香火。康熙三十七月（一六九八年），圣祖幸山时，又设供佛像三尊；康熙四十年（一七○一年），特遣官送镂刻香檀佛像，御制碑文；四十四年（一七○五年），赐梵文藏经，御书匾额。台麓寺为清代诸帝朝台行宫，清未为五台山黄教二喇嘛驻地。

抗日战争时期，这里一度为晋察冀边区行政委员驻地。