范延光投降，在平叛期间，主将杨光远多次提出非分之请，屡被桑维翰依法抑制，杨光远起初不知情，向宣徽使刘处让抱怨，刘处让因桑维翰等兼任枢密使侵蚀其权力而对其不满，所以就向杨光远透露都是桑维翰等宰相在暗中阻止。于是，在平叛之后，杨光远秘密上表向石敬瑭述说桑维翰等宰相的过失，石敬瑭虽然内心知道其中缘由，但杨光远毕竟手握重兵，所以顺从其意，罢免桑维翰和李崧枢密使的兼职，分别加兵部尚书和工部尚书的虚衔。
桑维翰知道石敬瑭忌惮天雄节度使杨光远的势力，请求分割天雄军的兵马，加杨光远太尉虚衔，调任西京守兼河阳节度使，得到石敬瑭的采纳，杨光远由此心怀不满。杨光远上疏弹劾桑维翰“迁除不公及营邸肆于两都，与民争利”，石敬瑭迫于其压力，外放桑维翰为彰德军节度使，并检校司空、兼侍中。
成德节度使安重荣，请求联合吐谷浑等部共击契丹，桑维翰料定其必反，担心石敬瑭难以拒绝安重荣的请求，便上书力言击契丹的“七不可”，并请石敬瑭巡幸邺都，以填补邺都留守刘知远不在任上之缺，防备安重荣。石敬瑭览奏后恍然大悟，听从其建议，巡幸邺都。安重荣果然起兵，被迅速镇压，桑维翰获加检校太保，加特进，封开国公。桑维翰来邺都谒见石敬瑭，改授晋昌军节度使，出任晋昌军节度使八天后，石敬瑭死去，养子石重贵继位，加桑维翰为检校太傅。
石重贵将桑维翰召还中央，任侍中、监修国史，然而实权在主张与契丹绝盟的上将景延广手中，导致后晋与契丹关系紧张，桑维翰多次上言与契丹请和，都被否定。
以平卢节度使杨光远，叛投契丹为契机，耶律德光大举南下，虽在澶州之战中被击退，但仍给后晋造成不小的冲击与损失。在这段期间，所有军机要务都由景延广主持，桑维翰等宰相完全被排除在决策范围外。战后，景延广成为众矢之的，桑维翰先引其不救戚城之罪，说服石重贵将他外放西京，又指使自己的党羽中受到石重贵宠幸者向石重贵进言：“陛下欲御北狄、安天下，非桑维翰不可。”于是，石重贵恢复枢密院，升桑维翰为百官之首——中书令，再次兼任枢密使，加弘文馆大学士、太子太傅，并受封为魏国公。
桑维翰第二次掌权期间，石重贵对他事无巨细，桑维翰也充分发挥了自己的政治才能，一次性调动十五名节度使防备契丹，无人敢抗命，其胆略为时人所服。但凭借权势，广收贿赂，引起朝野非议。还与石重贵的宠臣李彦韬、冯玉有隙，两人在石重贵面前攻讦桑维翰，石重贵想立即罢黜他，后经刘昫、李崧等劝解才作罢。桑维翰听说后，请求让冯玉当枢密副使，而石重贵则直接任命冯玉为枢密使，分桑维翰之权。
桑维翰提议罢免或调离跋扈的顺国节度使杜威，被石重贵拒绝，桑维翰知道自己再次被疏远，便不再谈及国家大事，并借口足疾而请求辞位，冯玉被提拔为宰相，完全取代了桑维翰的地位，与桑维翰冲突更甚。桑维翰拒绝在冯玉超授舍人卢价为工部侍郎的告身上署名，等桑维翰休假，冯玉就趁机通过其告身。桑维翰在正旦将至之际，派女仆入宫问候太后起居，顺便问及皇弟石重睿是否读书，要为他选择师傅教导。
当时，正在患病的石重贵听到这话后，转述给冯玉，冯玉提醒说桑维翰有废立之意，石重贵便对桑维翰疑心倍增。李守贞、冯玉、李彦韬趁机加紧排挤桑维翰，认为开封尹赵莹“柔而易制”，便向石重贵提议以桑维翰代赵莹为开封尹，赵莹接任中书令。桑维翰从此称自己有足疾，很少进宫朝见，也杜门谢客。
桑维翰被边缘化以后，石重贵继续采取对契丹的强硬政策，拒绝按契丹要求派景延广和桑维翰到契丹解释情况，导致兵连祸结，终于因杜威之降而导致契丹灭亡后晋。在杜威投降前夕，桑维翰听到契丹兵锋已至恒州滹沱河上的中度桥的消息，十分焦急，请求谒见石重贵，提议御驾亲征以稳固前线军心，但石重贵正在苑中调鹰，拒绝接见，他又上门找宰相赵莹、李崧、冯玉等人，他们都对桑维翰的建议不以为然。
桑维翰对自己的亲信说：“如果是天命未改倒也罢了，光看人事的话，晋国就要灭亡了。”果然宋彦筠兵败、杜威等诸将投降，开封亦为降将张彦泽攻破。有人劝桑维翰逃离开封，桑维翰说：“我身为一国大臣，能逃到哪里去？”随后他被张彦泽拘禁，张彦泽派壮士缢杀，时年四十九岁，张彦泽禀告耶律德光说桑维翰是自缢的，耶律德光说：“我无意杀桑维翰，怎么就自杀了呢！“命令从优抚恤桑维翰的遗属。
桑维翰，石敬瑭建立后晋过程中的关键人物，故欧阳修称“灭唐而兴晋，维翰之力也”。他两次执政，协调各方关系，稳定内外局面，体现了出众的政治才能；但另一方面，因为主张对契丹卑躬屈膝尤其是割让幽云，导致中原汉族在四百多年间被北方胡族压制，故被评为“万世之罪人”。
喜欢史事讲将2隋唐五代请大家收藏：(m.suyingwang.net)史事讲将2隋唐五代三月天更新速度全网最快。