533年八月，孝武帝授贺拔岳为都督，督导雍、华等二十州诸军事、雍州刺史。同年，贺拔岳认为夏州（治岩绿，今内蒙古乌审旗南白城子）是边塞要地，想派一个得力之人担任该州刺史。

在众人的极力推举下，授宇文泰为使持节、武卫将军、夏州刺史。宇文泰到了夏州后，抚慰流民，结好少数民族，很快控制了夏州局势。

534年，贺拔岳联合侯莫陈悦讨伐曹泥，结果中了侯莫陈悦之计，贺拔岳被谋杀。贺拔岳部三军无主，惶惶不安。

有的将领提议由宇文泰统帅贺拔岳部队，但宇文泰的好友劝阻他说：“如今形势不明，处境危险，宇文史应观察一下再作决定。”

但宇文泰却认为：“既然有这个千载难逢的时机，不能患得患失，否则就会错失良机，假若现在不早些前往，统领将兵，让他们早日安心，迟则恐众心自离。”

他立即赶赴凉州接管了贺部的指挥权，约集众将陈说利害，巡视各营寨，稳定军心。而且还击败了侯莫陈悦，向东进据长安。为立政关陇打下了基础。

宇文泰统领贺拔岳的部属军队后，上表孝武帝元修，并与元毗及诸将共同盟誓，相约共扶王室，孝武帝遂下诏以宇文泰为大都督，统领贺拔岳所部人马。

宇文泰得到孝武帝的正式承认后，迅速讨伐曹泥，平定灵州，之后以扫平关陇各地，实力大大增强，孝武帝于是封宇文泰为侍中、骠骑大将军、开府仪同三司，关西大都督，略阳县公，承制封拜，成为仅次于高欢的有力人物。

534年五月，北魏孝武帝欲起兵讨伐高欢，事泄之后，高欢已有所戒备。中军将军王思政对孝武帝说：“高欢的篡逆之心，已昭然若揭，洛阳非用武之地，一旦遭到进攻，难以守御，宇文泰心中怀有大魏皇室，不如前往关中，凭借他的力量与高欢抗衡。”

孝武帝听信了王思政的提议。与此同时，夏州长史于谨曾劝宇文泰上书孝武帝，迁都城入关中，以效曹操之举，挟天子以令诸侯。

宇文泰接受了这一意见，将高欢结好自己的书信都封存上交给孝武帝，以显示自己忠于王室之心。取得了孝武帝的信任。