徐怀玉，本名琮，亳州焦夷县人。少以雄杰自任，随太祖起军。唐中和末，从至大梁。光启初，蔡寇屯金堤驿，怀玉将轻骑连破之，由是累迁亲从副将，改左长剑都虞候。又从破蔡贼于板桥，收秦宗权八寨，奏加检校右散骑常侍。文德初，同诸军解河阳之围，复从破徐、宿。乾宁中，奏加检校刑部尚书，太祖赐名怀玉。破朱瑾于金乡南，擒宗江以献，表授金紫光禄大夫、检校右仆射。乾宁四年，庞师古失利于清口，怀玉独完军以退。光化初，转滑州右都押牙兼右步军指挥使，俄奏授沂州刺史。顷之，王师范以青州叛，屡出兵侵轶，怀玉击退之。天复四年，转齐州防御使，加检校司空，从大军迎驾于岐下。归署华州观察留后。一年，复领所部兵戍雍州，寻召赴河中，补晋、绛、同、华五州马步都指挥使。天祐三年，授左羽林统军，转右龙虎统军，领六军之士赴泽州。寻为晋军所攻，昼夜冲击，穴地而入，怀玉率亲兵逆杀于隧中，晋军遂退。开平元年，授曹州刺史，加检校司徒。明年，除晋州刺史。其秋，晋军大至，已乘其墉，怀玉选亲兵五十余人，拥杀下城。晋军既退，出家财以赏战士。岁中，晋军又至，怀玉领兵败之于洪洞。三年，制授鄜坊节度使、特进、检校太保，练兵缮壁，人颇安之，加检校太傅。乾化二年，庶人友珪既篡立，河中朱友谦拒命，遣兵袭鄜州，怀玉无备，寻为河中所掳，囚于公馆。及友珪遣康怀英率师围河中，友谦虑怀玉有变，遂害之。怀玉才气刚勇，临阵未尝折退，平生金疮被体，有战将之名焉。