尴尬，他投降了自己的老对手，附近的岐王李茂贞。
李茂贞杀死刘捍，正准备发兵援应刘知俊，不料刘知俊仓猝前来，李茂贞见到这位一直痛殴自己的名将受宠若惊，很想表示表示，可自己只有凤翔这块地，也没有多余地方安置这位大神。
于是李茂贞好言抚慰，特授中书令。命他往取灵州，俟得地后即封镇帅。刘知俊请得岐兵数千人克日就道，径至灵州城下，把城池围困起来。
朱温接到急报，立遣康怀贞、王彦章会师往援，刘知俊绕出前面据险邀击，把康怀贞麾下的兵士冲作数段，康怀贞狼狈奔至升平，蓦有大山当道，两面峭壁，只一狭径可通人马，康怀贞正在担忧，猛闻一声胡哨，那岐兵从谷中出来堵住山口，为首大将正是刘知俊，大呼康怀贞快来受死。
康怀贞吓得手足冰冷，王彦章道：“节帅只随我前进，怕他甚么？”
王彦章舞动两枪杀入山口，一杆枪重有百斤，经他两手运动，好似篾片一般。刘知俊上前拦阻，怎经得王彦章神力，战到三五个回合，已杀得汗流浃背招架不住，慌忙勒马退还。康怀贞仓皇失措不知所为，亏得王彦章持着两大杆铁枪当先开路，左挑右拨搠死数百人。王彦章且战且前，康怀贞紧紧随后，费了若干气力才得杀透山谷麾鞭遁去。手下军士多被岐兵截住，不是杀死就是受擒。
刘知俊向岐王献捷，岐王授刘知俊为彰义节度使，镇治泾州。刘知俊过于强悍，风头又盛，岐王的近臣石简颗感到压力，接连不断地挑拨，李茂贞终于罢兔了他的军权。刘知俊赋闲岐下潦倒度日。
李茂贞的继子李继崇镇守秦州，他来朝见李茂贞的时候说，刘知俊走投无路才来到这里，不应该因为谗言、嫉妒而被剥夺军权。李茂贞于是杀掉石简颗等人。李继崇又请求让刘知俊带着全家迁居秦州，李茂贞答应了。
是年岐、蜀失和，屡有战争。蜀主王建曾将爱女普慈公主许嫁岐王继子李继崇，岐王因戚谊相关，屡遣人至蜀求货币，蜀主无不照给。接着又求巴、剑二州，蜀主王建怒道：“我待李茂贞仁至义尽，奈何求货不足，又来求地，我若割地畀彼，便是弃民。宁可多给货物，不能割地。”
于是复发丝茶布帛七万，交来使带还。李茂贞因求地不与，屡向继崇说及，有不平意。继崇嗜酒使气，伉俪间常有违言。普慈公主遣宦官禀报蜀主求归成都，王建遂召回公主留住不遣。
老婆自然比老父重要，何况还是继父。公主不回，李继崇索性连同秦州一道投降蜀国，刘知俊
…。。