黄山村历史悠久，清朝初期开始从诏安县和东山县梧栊、后林、康美等地四姓的农民迁到此地定居，将村建在一个山坡的前面因而得此村。解放初，黄山村归白埕村管辖，山只归黄山村管辖。1958年二个自然村与白埕村成立合作社。1962年同白埕大队拆队建立黄山大队。1984年改为黄山村。

黄山村背靠葱绿美丽的国家森林公园以及乌礁湾旅游区，前有西埔湾垦区。在抗战期间，村民在村庄后面的山林里多次配合东山军民袭击日本帝国主义入侵者的驻军。1953年，国民党进犯东山岛时，该村村民组织民兵奋勇抗击国民党军队的进犯，为东山岛保卫战的胜利做出一定的贡献。

解放前的黄山村，以沙地为田，世代耕耘，历尽沧桑。建国前兵荒马乱，海匪沙灾横行，农业萧条，民不聊生，一派冷落景象。建国后，全体村民齐心协力，不辞辛苦，日夜奋战在沙滩上，大种麻黄树，建成了万亩防风林，形成了“东海绿洲”，创造了较好的生产生活环境。特别是在党的十一届三中全会后，进行了生产承包责任制的改革和种植产业结构的调整，村民生活水平有了明显的提高，逐步走上了繁荣富裕的道路。