但是，第一次十字军远征结束后，医院骑士团的宗旨开始发生变化，他们的首领决定：一部分教友继续为饥饿和染病的朝圣者从事慈善工作，但其中心任务是建立一支训练有素、纪律严明的骑士军，从而逐步变成了纯粹的封建骑士军事团体，并在巴勒斯坦地区存在了将近200年。其服装是缀有白色十字架的黑色外套，后来又改为红色外套。

14世纪初，在奥斯曼土耳其帝国的进逼之下，骑士团不得不于1310年移到地中海东部的罗得岛。1522年，奥斯曼苏丹苏里曼一世为了解除进犯欧洲的后顾之忧，大举进攻罗得岛，虽然骑士团只有500多名骑士和6000多名士兵，但他们面对20万强敌，毫不畏惧，英勇抵抗，进行了整整半年多的顽强防御战，虽然最终被迫投降，但土军却付出了至少5万人丧生的惨重代价。苏里曼一世对骑士团的勇气颇为赞赏，于是特许这支敌军在1523年1月1日安全撤离了该岛。