大山站房全为杉木建造之日式建筑，造型特色与海线木造老站房同为三角形屋顶、入口廊柱双木并立、Y字形廊柱环列、L型回廊、牛眼窗等，而站房右侧斑驳的夯土墙（以竹条横直编织墙面内部支撑附著结构，再用泥土和米糠混合涂抹），显现了老站房独特之处，流露出古拙朴实之美。