在金庸小说《神雕侠侣》中玄铁重剑曾是「剑魔」独孤求败的宝剑，后来被杨过得到也使用这种剑，下面青石刻有概述：「重剑无锋，大巧不工。四十岁前持之以横行天下」。尹克西指出：「这玄铁乃天下至宝，便是要得一两也是绝难，寻常刀枪剑戟之中，只要加入半两数钱，凡铁立成利器。」

在初版的《倚天屠龙记》中，倚天剑屠龙刀均为玄铁重剑鎔化后再铸所造（三版中倚天剑改为君子剑淑女剑合铸）。俞岱岩提起屠龙刀时，发觉刀身全黑、极之重，又有磁力吸去对手的暗器。后来明教接驳断刀时，以高温所烧，连钳子都烧弯了，屠龙刀还是不熔。

《侠客行》首回〈玄铁令〉，描述江湖人物争夺玄铁令，故事中角色谢烟客说：「这等玄铁刀剑不损，天下罕有。」当他提剑削向玄铁时，长剑断为两截，上半截弹了出去，玄铁仍是丝毫无损。