元朝末年，风雨飘摇的元政府为了应对农民起义，大量招募“义兵”、“民兵”成立千户所、万户所。明朝在此基础上实行卫所制度，“稍仿元万户府之制，凡内郡大者及要害地俱置卫”。在大的郡县以及要害之地设立“卫”，已经成为明朝政府的常规动作。海南卫正是在这种大背景下得以设立。

据地方志书记载：“洪武二年，设海南分司，镇兵一千余名，仍隶广西省。三年，立东西二所，军千余名，改隶广东省。五年，改分司为卫……”这表示：海南最开始隶属于广西，在洪武三年（1370年）正式隶属于广东，这一做法一直延续到海南建省办经济特区为止。其次，海南卫源于洪武二年（1369年）的“海南分司”，并于洪武五年（1372年）正式得名。

明朝时，都指挥使司（简称都司）成为各省最高军事机构，广西设立有广西都司，隶属于广西的海南就此设立海南分司，这就是海南卫的前身。“洪武二年己酉八月，以兵部侍郎孙安授广西卫指挥佥事，率千户周旺、百户吴成等部，领张氏漫散军士朱小八等一千余名，前来镇御，开设海南分司”，“后续添拨征北溃亡陈州各处元氏旧军，节次到卫者又千余名，立为东西二所。五年壬子，改分司为卫。六年癸丑，迁配者接踵而至，改东西为左右所。去年，土寇陷儋州，指挥张荣建议立所以镇之，奏准调福建赖正孙收集陈友定军三千……”正德年间的《琼台志》叙述，一方面还原了海南卫设立的经过，另一方面也揭示了海南卫兵士的基本构成。