父亲马玉，担任东头供奉官，言马怀德可试引弓、击剑、角牴，补三班奉职，为延州南安砦主、延州东路巡检。数以少击西夏贼，败其众。范仲淹知延州，修筑青涧城，奏为兵马监押，带着所部兵马，杀入贼境，击破遮鹿寨、要册寨，亲射杀其酋狗儿厢主，迁左班殿直。又率蕃汉兵马，烧荡海沟、茶山、龙柏、安化等十七砦三百余帐，斩首数百级，虏马驼牛羊万数，迁右侍禁。以范仲淹、韩琦荐，授阁门祗候。知延州庞籍入朝，奏为东路都巡检使。夷黑神、厥保等十八寨贼，以四万骑犯边，趋近仆射谷。马怀德以兵数千据谷，旁高原待之，斩首二百级，得到畜产、器械数迁，迁内殿崇班。又以兵修龙安城，虏不敢犯，遂为鄜延路兵马都监。修建绥平城，破贼于青化寨、押班寨、吃当砦，杀获甚众。

元昊为夏国主，命国子博士高良夫与马怀德会西人画界。庞籍详细评论其前后之功，迁供备库副使兼阁门通事舍人。时用兵久，民多亡散。马怀德招辑有方，陕西经略使梁适奏请推其法诸路。历任知保安军、知环州、环庆益利路钤辖，累迁四方馆使、舒州团练使，徙鄜延路副都总管。