建立东魏
在此后很长的一段时间里,高欢集中精力对他的军队进行了比较大的调整和改编。他发现晋阳一带地理位置十分优越,四周崇山峻岭,易守难攻, 是个极好的屯兵之地。于是,高欢在晋阳建置大丞相府,长期住在那里,遥控洛阳。他还把手下的鲜卑人从河北迁到了并州、汾州一带,并分别在秀容郡(今山西原平县)、寿阳城(今山西寿阳西)、受阳县(今山西文水东) 设置恒、燕、云三州侨州政府;又把六镇改为朔、显、蔚三州,分别在六壁城(今山西孝义西南)、邬县(今山西平遥西北)等地设置侨州政府。侨州政府不受当地政府管辖,直属大丞相府。高欢从政治上、经济上给予六镇鲜卑很多特殊的照顾,规定他们以打仗为主要职业,不从事生产,衣食供给都仰承于汉族人民。六州鲜卑拱卫在晋阳的四周,既有利于高欢对军队的调发和使用,又成为他重要的兵源。
永熙三年(534)五月,魏孝武帝下诏调发河南诸州兵,声言要亲自进攻南方的萧梁王朝,而实际上是想突袭晋阳,搞掉高欢。
魏孝武帝同高欢关系紧张,发生在一年以前。几个对高欢专权不满的朝臣向孝武帝建议加强禁卫军,以防备晋阳。本来就不愿受高欢摆布的孝武帝, 很快按照他们的意见设置了都督部曲,并大量选拔骁勇,增允武直,还把一部分军国大权转移到高欢的反对派手里。同时,他还秘密地和拥兵关陇的贺拔岳建立联系,任用贺拔岳的哥哥贺拔胜都督荆州等七州的军事。不久,孝武帝杀死在朝中任司空官职的高乾,撤销高欢亲信韩贤建州刺史的职务,将
高欢安插在洛阳的党羽一一地清除掉。
高欢识破孝武帝的用心,立即调集二十四万大军,声称应诏南讨,分兵四路,大举南下。七月,高欢引军渡河,迫使孝武帝丢弃洛阳,亡命长安, 投奔到贺拔岳的继任者宇文泰那里。八月,高欢占据洛阳,大肆屠杀反对派。但孝武帝的西走,也使高欢失去了政治资本。他前后写过四十多封信件,请求孝武帝东还,均遭拒绝。十月,高欢改立年仅十一岁的元善见为帝,是为魏孝静帝。不久,他以洛阳处以四战之地,难以为都,下令北迁邺城。高欢命令下达后三天,洛阳城民四十万户被驱出家园狼狈就道。高欢留在洛阳处理后事,事毕还晋阳,从此军国大权一概归入相府。北魏被一分为二,以邺城为都的北魏王朝居于宇文泰制下的北魏长安王朝的东方,故史称东魏。