长寿二年（693年），突厥再次犯边，武则天又命薛怀义为伐逆道行军大总管，两位宰相当他的幕僚，率领十八位将军出征。因突厥自行撤兵，薛怀义未行。

除此之外，薛怀义也以僧侣身份进行过其他工作。经过以薛怀义为首的和尚的刻苦攻关，终于在浩如烟海的佛经里找到一部《大云经》，经里记载女主统治国家，最后又成佛。这就是名正主顺地为武则天当皇帝提供了经典依据。但是，冯小宝并没有止步，为了普及《大云经》，他又带领一帮和尚炮制了解释经典的《大云经疏》，用通俗易懂的语言把晦涩的经文加以演绎阐发，并和当时流行的弥勒信仰结合起来，称唐宗室衰微，太后就是弥勒下生，必定取代唐朝的统治。

从而为武则天提供了对抗儒家男尊女卑理论的思想武器，助她名正言顺地登上皇位。

武则天称帝后，薛怀义也因此顺理成章地成为武周建国的大功臣，官拜正三品的左威卫大将军。

此后，薛怀义厌倦入宫陪侍武则天，多居白马寺，并广度年轻力壮之人为僧，每天也不在寺里念经，跑到街上去，骑着高头大马，在洛阳城里横冲直撞，路上行人纷纷躲避。谁要是躲得不够及时，马上就被他们打得头破血流。然后，扔在路边，扬长而去，根本不管别人死活。特别是看到道士，更是分外眼红，一定要把人家抓过来，剃光头发，陪他一起当和尚，有时候连道教的高级人物也不能幸免。当时有一位著名的道士，叫做候尊，是弘首观的观主，有一次不小心被薛怀义看见了，把他拉进寺里去，强迫当了好几年的和尚，直到薛怀义死后，这才出来，再重新蓄发当道士。

薛怀义对官员也挺不客气的。当时有一们御史看不过他的所作所为，多次依法弹劾他，冯小宝一怒之下，把这人堵在路上，打了个半死。这类为非做歹的事情干多了，有时候也会碰钉子。

有一天，薛怀义带着自己的一帮喽啰进宫，在门口遇到了宰相苏良嗣。薛怀义骄横惯了，觉得我是宠儿啊，我得先进门啊，根本没把苏良嗣放在眼里。苏良嗣勃然大怒，当即叫左右把薛怀义揪过来，劈头盖脸一顿暴打，把薛怀义打得满地找牙。薛怀义跑到武则天面前哭诉，没想到武则天心里非常明白，摸着冯小宝的光头说：“孩子你记住，北门才是你出入的地方，南衙是宰相理政的地方，你没事到那里闯什么祸呢？”

但随着薛怀义地位的提高，宰相也奈何他不得。在出征突厥期间，李昭德以宰相的身份充当小宝的幕僚，因为一言不合，冯小宝挥拳便打，李昭德也只能惶惧求饶。

武则天成为皇帝后，身边的男宠逐渐多了起来，慢慢移爱于一个叫沈南璆的人了。薛怀义一气之下，干脆不进宫见武则天了，整天待在白马寺里，和他剃度的那些小流氓胡闹。

御史周矩怀疑薛怀义谋乱，曾几次向武则天奏劾，武则天命周矩处置众僧。周矩查问，将诸僧悉数发配远州边地。但是不久后周矩又被薛怀义诬陷，下狱免官。

证圣元年（695年）正月十五日，是中国传统的上元佳节。朝廷取消宵禁，百姓家里也是张灯结彩，天下狂欢。薛怀义为这个节日做了精心准备，他指挥手下在明堂的地上挖了一个五丈深的大坑，坑里面预先埋上佛像，装上机关。然后，用丝绸在坑上搭了一座宫殿。皇帝也得过节啊，武则天来到明堂之后，冯小宝指挥手下将佛像从坑底徐徐拉起，一直拉到彩绸搭建的宫殿之中。从旁边看起来，活像是地底踊出佛像。

并且，薛怀义早就杀了一头牛，用牛血画了二百尺高的一个大佛，把这个佛像张挂在天津桥上，然后对武则天说，这是我割破膝盖，用自己的血画成的。但武则天还是淡淡一笑，没有理会。

为此，薛怀义心怀怨恨，在第二天正月十六的夜里，火烧天堂。火借风势，迅速蔓延，很快天堂就成了一片火海。当初建天堂的时候，所费以万计，府藏为之枯竭，如今只剩下一片锦灰堆。大火又继续蔓延，把明堂也给点着了。烈火熊熊，把神都洛阳照耀得如同白昼。这一场大火一直烧至天明，明堂和天堂一起化为灰烬。

延载二年（695年）二月四日，火烧明堂半个多月之后，薛怀义被杀。

关于薛怀义的死因，史书上记载了三种说法。

一、武攸宁率人暗杀

第一种说法见于《实录》，后来又被《资治通鉴》采纳，说薛怀义是被武则天的堂侄武攸宁暗杀的。暗杀的地点，就在洛阳宫城内的瑶光殿。瑶光殿四面环水，景色清幽。有一天，武则天约冯小宝来这儿见面，冯小宝乘兴而来，没想到等他的不是女皇，而是女皇的侄子武攸宁，武攸宁一看见冯小宝，不容分说，率领壮士一拥而上，将他扑倒在地，一顿劈头盖脸的毒打之后，冯小宝当即毙命。

二、太平公主暗杀

第二种说法见于《旧唐书》，说冯小宝是被武则天的女儿太平公主的乳母张夫人率领壮士暗杀的，具体情节和武攸宁的故事差不多。也是说武则天召唤冯小宝到瑶光殿幽会，冯小宝屁颠屁颠来了，没看到武则天，倒看见太平公主的奶妈张夫人了。张夫人率领的壮士一拥而上，把冯小宝扑倒在地，一阵乱棒打死。

三、武则天下令明杀

第三种说法见于李商隐所写的《宜都内人传》。宜都内人是武则天的宫女，她规劝武则天，男为阳，女为阴，武则天如果用男宠，那就以阴求阳，自毁长城。因此必须除去男宠，培养自身阳刚之气，只有这样统治才能长久。武则天听了之后觉得有道理，因此就下令杀了冯小宝。按照这样的说法，武则天对冯小宝就是明杀，不是暗杀了。

四、太平公主与武攸宁共同谋杀

第四种说法见于唐人张垍所撰写的《控鹤监秘记》，太平公主应武则天之命密遣宫人埋伏在要道上，召薛怀义入见瑶光殿，赶到时，太平公主在殿上大喝曰：“拿贼！”于是，埋伏的人都起身，将怀义的两手捆绑起来；薛怀义仍然崛强，欲作困兽之斗，恰巧武攸宜用锤子从背后猛击，薛怀义脑裂而死。太平公主命武攸宁用车载其尸还白马寺，龛而焚之，善遣寺中僧众，及怀义蓄以自卫之力士，籍寺产入官。

武则天称帝的证圣元年（695年），薛怀义在明堂的北面建造一座千尺之高的功德堂，里面的大佛像有九百尺高，鼻子像大船，小指中能够并肩坐下几十个人。夹着萱麻把它漆了一遍。正月十五日这天，要在明堂前举行露天大斋会。会前，薛怀义派人掘地五丈深，用彩色丝绸画上宫殿台阁，把竹子扎成护圈，作为支柱和顶盖。又造了一个金刚的大佛像，把它从坑中拽上来，骗人说它是从地里冒出来的。接着又用刺出来的牛血，画成大佛的头，二百尺长，骗人说这是他用自己膝上的血画的。观看的人们从四面八方涌来，使城内人满为患。男女云集，纷纷进前抛钱，你推我挤，老人和孩子被踩死好几个。到十六日，把那大佛像挂在天津桥南，设斋祝祷。二更天，功德堂起火了，蔓延到明堂，火焰冲天，照得整个洛阳城如同白昼。功德堂刚建了没有一半，已经七十多尺高。火势又蔓延到金银库，那些金银都化成水在流淌，平地都一尺来深。有的人误入其中，立刻就烧焦了。功德堂化作灰烬，一块木头也没剩下。天亮之后，又设斋会，忽然来了一阵狂风，把那用牛血绘制的大佛像撕成了好几百块。

浮休子张鷟

赵翼：“薛怀义入侍床第，宠冠一时，至命为行军大总管，率十八将军击默啜，以宰相李昭德、苏味道为其长史司马，可谓爱之极矣。”“薛怀义擅宠武后朝，威震天下。”

1994年电视剧《武则天》：张秋歌饰演薛怀义；

1999年电视剧《大明宫词》：赵毅饰演薛怀义；

2004年电视剧《无字碑歌》：王辉饰演薛怀义；

2012年电视剧《太平公主秘史》：陈涛饰演薛怀义。