1887年（清光绪十三年）8月，两广总督张之洞因广东南洋海防形势严峻而奏请创办。学堂设置在黄埔长岛的博学馆内。前福建船政局提调吴仲翔任总办。学堂分水师和陆师两部分，各设员额70名。水师分管轮、驾驶两专业，学员必须学英文。管轮专业学“机轮理法、制造运用之源”；驾驶专业学“天文、海道、驾驶、攻战之法”。陆师分马步、枪炮、营造三个专业，学员必须学德文。学堂规制课程仿福建船政学堂和天津水师学堂，但略有变通。如允许学员参加清廷的文武考试，“以开其上进之程”。学堂内最初的水师学员系从博学馆原有70余名学员中甄别选留50余名，历经考试，2年后仅留38名。1889年秋，选船政学堂三四年级的水师学员37名，招来继续深造。同年冬，驾驶专业第一批学员14人结束课堂学习，转登“广甲”号练船出洋实习3年。毕业后分至水师任职，或选择优秀者送外国学院、军舰学习。中日甲午战争之后，新任两广总督谭钟麟辞退陆师教习，解散陆师学员，裁汰水师学员名额，仅留90人，遂改校名为黄埔水师学堂。1904年，时任两广总督的岑春煊又加设鱼雷专业。1912年中华民国成立后，收归海军部管理，改称广东海军学校，1913年，因经费无着停办。学堂在清末的20多年中，先后共招收了14届学员，毕业生人数为122名。毕业生中突出者有谭学衡、林献_、陈景芗等。