朱温于是下诏削除刘知俊官爵，命杨师厚、刘鄩等将领率军讨伐刘知俊，随后亲自到河中督战，诏谕将士：“活捉刘知俊者，赏钱一万贯，授忠武军节度使，赐庄、宅各一所；活捉刘知浣者，赏钱一千贯，授刺史，有官者官升三级，无官者特授兵部尚书。”不久，梁军攻取潼关，打开了进入关中的通道，并擒杀了刘知浣。朱温再次派刘知俊的侄子刘嗣业到同州劝降，刘知俊自知大势已去，欲轻骑出城，去向朱温请罪，却为其弟刘知偃所阻止。于是举族西奔凤翔，投靠李茂贞，杨师厚乘胜直进，很快便迫降长安的岐军，收复了关中。
刘知俊投奔岐国后，得到李茂贞的厚待，被加授为检校太尉、兼中书令。但岐国疆域狭小，没有足够的藩镇安置刘知俊，只能厚给俸禄。不久，李茂贞命刘知俊率军攻打依附于后梁的朔方军，欲夺取河套平原以作牧马之地。当时，李茂贞、刘知俊、李继徽皆遣使赴晋，请李存勖出兵攻晋州、绛州，以牵制梁军。他们还打算在攻取朔方军后，再顺势攻取定难军，继而进图关中，李存勖命周德威攻晋州，但却为守军所败，杨师厚又领兵来援，晋军乃撤军。
刘知俊亲率凤翔、邠宁、雄武、彰义四镇军队攻灵州，朔方节度使韩逊遣使向后梁告急，朱温乃采用围魏救赵的战略，命康怀英领兵进攻邠宁镇。康怀英一路连克邠宁镇所属的宁州、庆州、衍州，成功得迫使刘知俊自灵州撤军。他回军迎战刘知俊，却在邠州长城岭遭到刘知俊的截击，刘知俊据险以待，将康怀英打得大败。康怀英败至升平，又遭到刘知俊的伏击，梁军几乎全军覆没，康怀英仅以身免。
刘知俊因大败梁军有功，不久被李茂贞授为彰义军节度使，镇泾州，他在宁州三败梁军，又统率凤翔、邠宁、彰义三镇军队，在晋军的配合下，围攻夏州。定难节度使李仁福向后梁求援，后梁的供奉官张汉玫、国礼使杜廷隐正在出使夏州的途中，闻讯率三百护军驰入州城，与李仁福一同守城，“昼夜戮力逾月”。梁军自鄜、延驰援夏州，大败岐晋联军，刘知俊乃自夏州撤军，夏州之围遂解。
不久，朱温再次下诏，斥责刘知俊叛梁降岐之举，并发下赏格：“有生擒刘知俊者，赏钱千万，授节度使，首级次之。”刘知俊的部将孟审登、孙亢、卓环、刘儒、张邻等，也都被悬赏通缉。
岐国又与前蜀爆发了战争，李茂贞的侄子雄武军节度使李继崇是王建的女婿，因夫妻不和，其妻普慈公主被王建召回成都。李茂贞怒而与前蜀断交，并在边界增兵，王建趁机出兵北伐，屡败岐军。李茂贞命刘知俊、李继崇领兵反击，在青泥岭大破蜀军，蜀将王宗浩败奔兴州，溺死于嘉陵江，王宗侃、王宗贺等收聚散兵，退保西县，刘知俊乃与李继崇乘胜追击，进围西县。
王建命王宗鐬、王宗播率军救援西县，先后在明珠曲、鳬口、黄牛川大败岐军。当时，王建还亲自到利州督战，又命王宗弼领兵援西县，王宗弼在斜谷大败刘知俊，随后在金牛再破岐军。蜀军士气大振，王宗侃领兵自城中鼓噪杀出，与王宗鐬、王宗弼等内外夹击，大破岐军，连夺岐军二十一寨，刘知俊乃撤围遁去。
后来，刘知俊为李茂贞亲信石简颙所诬陷，被李茂贞夺去兵权，寓居凤翔数年。李继崇到凤翔探亲，趁机劝说李茂贞，称刘知俊“途穷至此，不宜以谗嫉见疑”。李茂贞乃诛杀石简颙，以安抚刘知俊，并在李继崇的请求下，让刘知俊携带族人迁居秦州。
邠宁节度使李保衡叛投后梁，梁将霍彦威接管了邠宁镇，李茂贞命刘知俊围攻邠州，却历时半年都不能破城。此时，前蜀迫降李继崇，攻占了雄武军，刘知俊留在秦州的家眷被全部迁到了成都。刘知俊遂撤邠州之围，回师凤翔。因家眷皆在蜀地，担心遭到李茂贞的猜忌，于是率亲信百余人连夜斩关出逃，投降前蜀，王建以其为武信军节度使，镇遂州。
王建命王宗绾、王宗播各领兵十万，分东西两路共伐岐国。刘知俊在王宗播的西北面行营任第一招讨，随王宗播出秦州，自故关东进，迫降保胜节度使李继岌，乘胜攻取陇州。他随后又会合王宗绾的东路军一同围攻凤翔，迫使岐军闭城不出，不久因逢大雪，在王建的命令下撤军返回成都。
刘知俊被任命为西北面都招讨，作为西路军主帅，与东北面都招讨王宗侃的东路军一同进兵，再次攻伐岐国。但他麾下皆是前蜀功臣旧将，大多都不肯遵其号令，因此最终无功而回。当时，蜀人都不喜欢刘知俊的为人，故意编造童谣诋毁于他。王建也对刘知俊颇为忌惮，常对心腹近臣道：“我已年迈，时日无多，刘知俊不是你们所能驾驭的，不如早图之。”中官唐文扆趁机诬称刘知俊有谋叛之意，王建将刘知俊斩杀于成都炭市，刘知俊临死时惶恐乞命，在行刑者的讥笑下，与判官石钦若一同被杀。
喜欢史事讲将2隋唐五代请大家收藏：(m.suyingwang.net)史事讲将2隋唐五代三月天更新速度全网最快。