桑维翰知道石敬瑭忌惮天雄节度使杨光远的势力，请求分割天雄军的兵马，加杨光远太尉虚衔，调任西京（洛阳）守兼河阳节度使，得到石敬瑭的采纳，杨光远由此心怀不满。天福四年（939年），杨光远上疏弹劾桑维翰“迁除不公及营邸肆于两都（洛阳、开封），与民争利”。石敬瑭迫于其压力，于闰七月初三日外放桑维翰为彰德军节度使（治相州），并检校司空、兼侍中。

天福五年（940年）三月，桑维翰调任泰宁节度使（治兖州），加检校司徒。

天福六年（941年）六月，成德节度使安重荣请求联合吐谷浑等部共击契丹，桑维翰料定其必反，担心石敬瑭难以拒绝安重荣的请求，便上书力言击契丹的“七不可”，并请石敬瑭巡幸邺都（魏州），以填补邺都留守刘知远不在任上之缺，防备安重荣。石敬瑭览奏后恍然大悟，听从其建议，于八月巡幸邺都。十二月，安重荣果然起兵，被迅速镇压。

天福七年（942年）正月，桑维翰获加检校太保。闰三月，加特进，封开国公。六月，桑维翰来邺都谒见石敬瑭，改授晋昌军节度使（治京兆府）。桑维翰出任晋昌军节度使八天后，石敬瑭死去，养子石重贵继位，于八月加桑维翰为检校太傅。

天福八年（943年）三月，石重贵将桑维翰召还中央，任侍中、监修国史。然而，实权在主张与契丹绝盟的上将景延广手中，导致后晋与契丹关系紧张。桑维翰多次上言与契丹请和，都被否定。

天福九年（944年）春，以平卢节度使杨光远叛投契丹为契机，耶律德光大举南下，虽在澶州之战中被击退，但仍给后晋造成不小的冲击与损失。在这段期间，所有军机要务都由景延广主持，桑维翰等宰相完全被排除在决策范围外。战后，景延广成为众矢之的，桑维翰先引其不救戚城之罪，说服石重贵将他外放西京；又指使自己的党羽中受到石重贵宠幸者向石重贵进言：“陛下欲御北狄、安天下，非桑维翰不可。”于是石重贵在六月恢复枢密院，升桑维翰为百官之首——中书令，再次兼任枢密使。七月，桑维翰获加弘文馆大学士、太子太傅，并受封为魏国公。

桑维翰第二次掌权期间，石重贵对他“事无巨细，一以委之”，桑维翰也充分发挥了自己的政治才能，一次性调动十五名节度使防备契丹，无人敢抗命，其胆略为时人所服。但他凭借权势，广收贿赂，“仍岁之间，积货巨万”，引起朝野非议。他还与石重贵的宠臣李彦韬、冯玉有隙，两人在石重贵面前攻讦桑维翰，石重贵想立即罢黜他，后经刘昫、李崧等劝解才作罢。桑维翰听说后，请求让冯玉当枢密副使，而石重贵则在开运二年（945年）二月直接任命冯玉为枢密使，分桑维翰之权。五月，桑维翰提议罢免或调离跋扈的顺国节度使杜威，被石重贵拒绝。桑维翰知道自己再次被疏远，便不再谈及国家大事，并借口足疾而请求辞位。八月，冯玉被提拔为宰相（中书侍郎、同平章事），完全取代了桑维翰的地位，与桑维翰冲突更甚。有一次桑维翰拒绝在冯玉超授舍人卢价为工部侍郎的告身上署名，等桑维翰休假，冯玉就趁机通过其告身。十二月，桑维翰在正旦将至之际派女仆入宫问候太后起居，顺便问及皇弟石重睿是否读书，要为他选择师傅教导。当时正在患病的石重贵听到这话后，转述给冯玉，冯玉提醒说桑维翰有废立之意，石重贵便对桑维翰疑心倍增。李守贞、冯玉、李彦韬趁机加紧排挤桑维翰，认为开封尹赵莹“柔而易制”，便向石重贵提议以桑维翰代赵莹为开封尹，赵莹接任中书令。桑维翰从此称自己有足疾，很少进宫朝见，也杜门谢客。

桑维翰被边缘化以后，石重贵继续采取对契丹的强硬政策，拒绝按契丹要求派景延广和桑维翰到契丹解释情况，导致兵连祸结，终于在开元三年十二月（947年1月）因杜威之降而导致契丹灭亡后晋。在杜威投降前夕，桑维翰听到契丹兵锋已至恒州滹沱河上的中度桥的消息，十分焦急，请求谒见石重贵，提议御驾亲征以稳固前线军心，但石重贵正在苑中调鹰，拒绝接见，他又上门找宰相赵莹、李崧、冯玉等人，他们都对桑维翰的建议不以为然。桑维翰对自己的亲信说：“如果是天命未改倒也罢了，光看人事的话，晋国就要灭亡了。”果然宋彦筠兵败、杜威等诸将投降，开封亦在十二月十六日为降将张彦泽攻破。有人劝桑维翰逃离开封，桑维翰说：“我身为一国大臣，能逃到哪里去？”随后他被张彦泽拘禁。十二月十八日（947年1月12日）夜，桑维翰被张彦泽派壮士缢杀，时年四十九岁（关于其遇害经过的不同记载，参见“人物争议”目录

天福十二年（947年），刘知远即位，追赠桑维翰为尚书令。

桑维翰是石敬瑭幕僚中最先提议联络契丹以灭后唐的人，并起草了称臣称子、割让幽云十六州的表文。在后晋年间，他也一直坚持卑辞厚礼以奉契丹的政策，而此时石敬瑭已觉得“北面事之，烦懑不快”，成德节度使安重荣也请讨契丹。桑维翰上疏力陈“七不可”，从安重荣抗表的原因、军队士兵的士气、装备训练、将领人才的选拔、两国力量的对比、国内的政治状况等方面来论证要与契丹维持好关系、不能开战的原因，促使石敬瑭“释然如醒”，坚持既定的外交路线。同时，桑维翰还提到：“臣愿陛下训农习战，养兵息民，俟国无内忧，民有余力，然后观衅而动，则动必有成矣。”也就是说他强调这种路线只是权宜之计，并非对契丹一味屈从，而是主张等到国家实力增强后再夺回对契丹关系的主动权。

桑维翰具备优秀的行政能力和组织能力，在中央先后于天福二年（937年）至天福四年（939年）、天福九年（944年）至开运二年（945年）两次执掌朝政，执政期间主张“推诚弃怨以抚藩镇，卑辞厚礼以奉契丹，训卒缮兵以修武备，务农桑以实仓廪，通商贾以丰货财”，从而达到了“中国稍安”“百度浸理”的效果。桑维翰以威严自持，能镇抚百官，尤其是一向以骄横著称的武将群体，连杀害他的张彦泽在谒候他时都战战兢兢，即使冬天也会流汗。他第二次掌权期间一次性调度十五名节度使防备契丹，众将无不听命。镇守灵武的朔方节度使冯晖因得到当地少数民族的拥护，被朝廷怀疑，不在此次调度的名单中，冯晖便上疏请求调度自己。桑维翰招来禁直学士，指导他起草答诏，内容是：“非制书忽忘，实以朔方重地，杂虏窥边，非卿雄名，何以弹压？比欲移卿内地，受代亦须奇才。”即并非有意忽视冯晖，而是镇守朔方的重任非冯晖不可。冯晖得诏甚喜，桑维翰就这样巧妙消除了一个不稳定因素。除此之外，桑维翰为官也有公正的一面，如他抵制石重贵宠臣冯玉超授卢价，对自己也要求严格，当他的两个儿子桑坦、桑埙分别被荫叙为屯田员外郎和秘书郎时，他表示：“汉代三公之子为郎，废已久矣，近或行之，甚喧外议。”坚决不肯，最后两子的授官被降级，得到舆论的赞赏。

桑维翰曾被外放为彰德、泰宁、晋昌三处节度使。在地方上也颇有政绩，在彰德节度使任上整理民弊二十余项，并废除了抓到盗贼就没收其全部家产的“河朔旧例”，严格按照通行律令治罪。在泰宁节度使任上，他抓获了上千名豪贼，被比拟为汉代的捕盗干吏寇恂、尹翁归。在晋昌节度使任上，他刚赴任就登上华山，为民祈雨，很快应验，受到民众的感激。

桑维翰为官也有一些被诟病之处，如他广收贿赂，积累大量财富，又如他第二次执政时恢复了石敬瑭所废除的学士院后，全部安插自己的亲信。不过由于他“相业素高，公望所属”，部分行为得到时人的谅解，同时也可能有史书夸大的因素，如后汉时史官贾纬因与桑维翰的个人恩怨而夸张他有“白金八千铤”。

范祖禹：时军国多事，百司及使者咨请辐湊，维翰随事裁决，初若不经思虑，人疑其疏略；退而熟议之，亦终不能易也。然为相颇任爱憎，一饭之恩、睚眦之怨必报，人亦以此少之。

王禹偁：魏公王佐才，独力远晋室。挥手廓氛霾，放出扶桑目。感慨会风云，周旋居密勿。下民得具瞻，上帝赉良弼。沉沉帷幄谋，落落政事笔。品流遂甄别，法令颇齐一。跋敕朝据案，论兵夜远膝。多士若鸳鸿，官材咸有秩。诸侯如狼虎，请谒尽股栗。秉钧多事朝，绰绰有纪律。远将留侯比，近以赞皇（李德裕）匹。志在混车书，誓将阐儒术。皇天未厌乱，运去何飈欻。高祖厌寰区，少帝无始卒。老成既疏远，群小相亲昵。黩武兵渐骄，倒悬人不恤。和亲绝强虏，谋帅用悍卒。魏公在藩垣，上疏论得失。七事若丹青，辞切痛入骨。忠言殊不省，直首果见屈。铁马从北来，烟尘昼蓬勃。穹庐易市朝，左袵杂缨绂。主辱臣不死，囚缚自安逸。唯公独遇害，身殒名不没。惜乎英伟才，济世功未毕。一读晋朝史，遗恨空郁郁。子孙亦不振，天道难致诘。

胡寅：

张浚：夫石晋则不然，桑维翰始终主和，其言曰：“愿训农习战，养兵息民，俟国无内忧，民有余力，观衅而动，动无不成。”若有深谋者。考其君臣所为，名实不孚，专务姑息，赏罚失章，施设谬戻，权移于下，政施于上，无名之献，莫之纪极，维翰所陈，殆为空言，姑欲信其当时必和之说，以偷安窃位而已。

陈诚之：石晋因契丹之力以自立，其势不得不与之和，此桑维翰之功也……浚不罪延广而谓维翰不当与契丹和妤,甚无谓也。

陈傅良：自非耶律德光之师，不足以亡唐立晋，然彼虽有德于我，其遂可无以弭其后患耶？暨再传而为其所灭，桑维翰辈可谓失谋矣。

陈亮：借夷狄以平中国，此天下之末策，生民之大患。而究其本原，乃出于明君贤臣者盖其事变迫于前不得已而为之，姑以权一时之宜，未暇为天下后世虑也。……吾尝推原其事，盖肇于唐高祖，成于郭子仪，而极于桑维翰。或难于创业而资为声援，或急于中兴而用为辅翼，或迫于拒命而倚为先驱。皆所以权宜济变，而速一时之功。虽能快中心之所欲，而后世之被其患盖有不可胜道者，此所谓虑不及远也。……为维翰计者，当一举太原之众，运奇奋巧，以破敬达，乃急下太行、抵怀孟、塞虎牢，示天下以形势，檄诸镇而犄角，则区区之唐，亦何足灭哉！此则磊磊落落、千载一时之功也，何至于北面夷狄、请救以示弱哉？北面犹可也，复割卢龙以遗之，使夷狄有轻中国之心，长驱径入，习以为常，原情定罪，维翰可胜诛哉！

吴曾：晋去国初未远，故太祖所以推服维翰者，宜有以得之。使维翰获用，岂尽出普下乎？……议论虽不尽见，其揣度事势，深切着明，有能加之者欤？太祖所以推服之也。

刘克庄：五季骄诸镇，终朝易十人。使无孔方癖，犹是晋名臣。

李贽：父事契丹而献幽、蓟十六州土地，陷于腥膻四百三十二年，是敬瑭、维翰耳。敬瑭以此而得国，维翰以此而得相。

王夫之：

蔡东藩：

陶懋炳：桑维翰本是石敬瑭卖国篡位的谋主，又深为辽太宗所宠爱，所以当上了中书侍郎平章事，兼枢密使，权势无匹……这样的民族败类，王夫之斥之为“万世之罪人”，是非常恰当的。

卞孝萱、郑学檬：后晋的桑维翰……是石敬瑭投降契丹、称帝立国的主要策划者，是一个民族败类，官至枢密使。他帮助石敬瑭搞民族投降，又设法巩固后晋王朝统治。

相传桑维翰少年时，家里常有魑魅，家人无不畏惧。桑维翰曾被魑魅偷过衣服、摘过巾帽，但他神色如常，从未改变。

桑维翰曾参与科举考试，考官认为“桑”与“丧”字同音，感到厌恶，于是落榜。有人劝他不必参加进士科，可以从其他途径入仕。桑维翰乃作《日出扶桑赋》以明确自己百折不挠之志，又做了个铁砚，对那个人说：“等铁砚被磨破后再从其他途径入仕。”最后终于进士及第。这就是磨穿铁砚的典故。

桑维翰尚未发迹时，对朋友说自己没有富贵是因为欠了造物主三债未还，即上债钱货，中债妓女，下债书籍。等到进士及第后，又对那个朋友劝酒，朋友说自己也有三悦，第一是钱，第二是妓，第三是不敢遗天下书，桑维翰慢慢说道：“吾炫露太甚，自罚一觥。”

桑维翰的性格是“一饭之恩、睚眦之怨必报”。楚王马殷之子马希范入朝时，正逢还未发迹的桑维翰在楚、泗一带旅游，前去谒见马希范，请求接济万金。马希范见桑维翰身材矮小，相貌丑陋，言语粗鄙，边听边哈哈大笑，其后只送给他数百缣。后来他担任后晋宰相，适值马希范为楚王，在他的奏请下“削去半仗，止称天策上将军、楚王而已，其卿相台阁皆罢之”。

桑维翰登第（一共四人登第）后，秦王李从荣幕下的陈保极对同僚戏称有三个半人及第，因桑维翰相貌丑陋，所以叫他“半人”。后晋建立，桑维翰拜相，时任曹郎的陈保极担心自己被报复，主动请辞，但桑维翰并未放过他，对石敬瑭说陈保极可能逃到南方，于是陈保极被召还，桑维翰还准备罗织狱事来进一步迫害陈保极，所幸同僚李崧极力劝解，因此只是在陈保极家里简单审问并贬官，陈保极也由此郁愤而死。

还有野史传说称，桑维翰拜相后，他发迹前的朋友韩鱼前来谒见他，桑维翰予以接见，并保荐他为学士，先通过韩鱼招来了曾夸奖过他的文章的同乡秀才朱炳，保荐他为军巡判官；接着又让韩鱼招来曾戏弄羞辱过他的同乡秀才羌岵，称也要给他授官。等羌岵被招来后，桑维翰故意不见，并让巡判官吏把他带到大街，诬陷谋叛，当场斩首。羌岵临刑前向上帝呼诉自己的冤情。上帝怜悯他，任命他为司命判官，他就同被桑维翰鞭打致死的开封府吏唐赞一起向桑维翰索命，桑维翰哀求无果，不久死亡，死时手足都有莫名其妙的伤处。

桑维翰担任宰相时，曾对朋友感慨：“凡居宰相职后，有似着新鞋袜，外望虽好，其中甚不快活。”

天福三年（938年），崔棁权知贡举，有一个贡士叫孔英，无才无德。桑维翰早就了解此人的为人，对他深恶痛绝。崔棁在锁院前依例拜谒宰相，桑维翰“性严语简”，对他说：“孔英来也。”暗示他不要录取孔英。崔棁却不明就里，也没有细问，只是记住了这个名字。当时孔英又高调宣称自己是孔子的后裔，崔棁想到桑维翰的嘱咐，遂放孔英登第。放榜时，人们纷纷嘲笑。桑维翰听说后，后悔莫及，屡次举手捂住自己的嘴巴。

开运三年（946年）秋雨连下一月，有一天，桑维翰出了开封府衙，从西街入宫，走到国子门时，马忽然受惊，车夫不能控制，以致桑维翰跌入水中，很久才醒。还有传言说他的私邸内也有很多怪事发生，亲戚朋友都很担忧。同年冬，他在正房寝室里一个人坐着，突然间很惊慌恐惧的样子，好像看见了什么。他向空中大声喊：“你怎么敢到这里来？”像这样发生了多次，十多天内愤懑不已，即使是最亲近的人也不敢问他是怎么回事。不久后，他梦到自己穿好衣服，戴好帽子，车骑严整，好像将要到什么地方去，就坐上车，忽然间所乘车的马又不见了，到处寻找也不知在什么地方。醒了以后，他觉得很不爽。几天后，他就遇害。

据《五代史补》记载，桑维翰被缢杀时，仍“瞋目直视”，并三次嘘气，每嘘一次都会吐出火来，光焰明亮。三次后，火光熄灭，彻底死亡。

宋太祖赵匡胤开国后，与宰相赵普议事不合，曾发出“安得宰相如桑维翰者与之谋乎”的感慨。赵普说桑维翰爱钱，即使还活着也不会被赵匡胤任用。赵匡胤表示：“如果我用桑维翰的长处，自然也会护他的短处。措大就那点眼界，我赏给他十万贯，就会塞破屋子了！”

桑维翰有两篇奏议《谏赐优伶无度疏》和《论安重荣请讨契丹疏》被收入《全唐文》中。

关于桑维翰之死，《旧五代史》和《新五代史》的桑维翰传中均称是石重贵害怕桑维翰被耶律德光召见，然后“显彰己过”，便欲杀他灭口，授意张彦泽杀害他，张彦泽正好也贪图桑维翰的财产，于是就接受石重贵密旨，杀了桑维翰。《旧五代史》的张彦泽传和《五代史补》则称是桑维翰怒斥张彦泽，使其羞愧难当，再加上“挟宿憾”，所以杀了桑维翰。司马光在修《资治通鉴》时认为“是时彦泽岂肯复从少帝之命”，因此不采取第一种说法。

桑维翰死亡时间、地点和情形在不同记载中也有所差异。大致如下：

桑维翰墓位于河南省孟州市桑坡村，在清代尚有残碑，上有“晋”“大节也”等字样。后来孟县知县仇汝瑚重修其墓，立碑“后晋丞相桑公维翰之墓”。现已被夷平。此村庄的得名也是由于桑维翰葬于此。另外传说孟县谷旦镇桑楼村（卢桑楼村）也是得名于这里有桑维翰的别墅花园。