宇文导年少时雄杰豪迈，仁义慈惠，叔父宇文泰很喜爱他。最初同叔父们一同在葛荣军中。葛荣失败后，迁居晋阳。建明元年（530年），宇文泰跟随贺拔岳进入函谷关，宇文导随从宇文泰西去，常常参与作战。永熙三年（534年），侯莫陈悦暗通高欢，杀害贺拔岳，宇文泰被众将推为统帅，随即讨伐侯莫陈悦为贺拔岳报仇。宇文泰任命宇文导为都督，镇守原州。侯莫陈悦兵败，出旧关向北逃跑，宇文导率骑兵追击，在牵屯山追上侯莫陈悦，将其杀死，把他的首级传示京师。因有功被封为饶阳县侯，食邑五百户，被任命为冠军将军，加通直散骑常侍衔。

大统四年（538年），西魏文帝东征东魏，留下宇文导为华州刺史。当时关中兵少，东魏降将赵青雀、于伏德、慕容思庆等人叛乱，宇文导从华州率领部属进攻，活捉于伏德，杀死慕容思庆。屯兵渭桥，与宇文泰会师。叛乱平定后，晋爵章武郡公，食邑增至二千户。不久，加侍中、开府、骠骑大将军、太子少保等衔。大统九年（543年），东魏北豫州刺史高仲密来降，宇文泰率领诸将辅佐太子元钦东征，又任命宇文导为大都督和华、东雍二州诸军事，代理华州刺史。宇文导训练军队，善于防守。大军于邙山之战失利，东魏军追击到稠桑，得知关中已有防备，才退兵而去。大统十三年（547年），侯景举黄河以南前来归附，派使者请求援兵，朝廷议论准备答应，诏征陇右大都督独孤信东下，令宇文导代独孤信任陇右大都督、秦南等十五州诸军事、秦州刺史。