1871年夏天，由全国各地挑选100名儿童送到上海，黄开甲时年12岁，正随父在上海居住，通过有关人士推荐并又经几次考试，被选入预备学校，年终考试及格，经“幼儿出洋肄业局”批准，于1872年8月11日离上海赴美留学，在首批30名学童中有黄开甲、詹天佑、吴仰曾、梁敦彦、蔡绍基等人。

他们原定留学期为15年，但到了1881年，才学习了9年，清廷偏听驻美公使陈兰彬等人意见，突然下令所有留学生回国。其时黄开甲正在纽约圣约瑟大学专攻律学，学业尚未结束。陈兰彬竟不顾留学生们的反对，悍然勒令所有留学生94人撤回祖国。返国的留学生中，詹天佑后来当了京张铁路总工程师；梁敦彦后来当上交通总长。

黄开甲留美时，外号叫“小旋风杰克”，有演说天才，说他“出口成章，即席可发表优美的演说”。他回国后，先在上海道台任翻译，后来在招商局总理盛宣怀处当秘书，系盛的得力助手。1902年黄开甲被任命为二等参赞随外交使团赴英国参加爱德华七世加冕大典。1904年随清王室贝子溥伦访美，参加“圣路易国际博览会”，当时溥伦任中国馆监督，黄开甲任副监督。次年9月，日俄战后，黄开甲是中国代表团成员之一，出席“波特兰和平会议”，在返国途中病逝于日本。

清朝咸丰、同治年间，政府孱弱，江山处于内忧外患的飘摇之中。以曾国藩、李鸿章、左宗棠、胡林翼等为代表的“中兴名臣”，亲身受到英美列强恃科技进步、坚船利炮的刺激（湘军名将胡林翼曾亲眼目睹英国军舰在长江上耀武扬威，激起的波浪吞没湘军水师战船，气得口吐鲜血），痛定思痛，主张“师夷长技以制夷”。于1871年8月5日由曾国藩和李鸿章合奏朝廷，派遣幼童留学美国，学习西方先进文化技术。同年9月9日由两宫太后下旨同意办理。至此，中国派遣幼童赴美国留学一事，得以实现。

从1872年至1875年共4年间，清廷先后派出4批共120名9至15岁的幼童赴美留学。在这120名幼童中，广东因开风气之先占了82名。这120名幼童后来能进入美国哈佛、耶鲁、哥伦比亚、麻省理工等著名大学深造的仅有50来名。他们在大学里学习化学、物理、地质、土木工程、法律、医学、海军等专业，以便学有所就，报效祖国。黄开甲就是其中一人。

黄开甲的家庭比较开明，其父黄岳川时任职于潮海关（现汕头海关）通事一职。黄开甲被选派出国留美之前，先到清廷设在上海的留学预备学校进行一年左右的中、西文学习。经择优选录后和其他幼童一起先乘轮船远渡重洋抵达旧金山,再坐火车到美国的东北部康涅狄格州的首府哈特福德市。这个城市在100多年前曾经辉煌一时。它是美国的保险业中心和出版中心，打字机和手术麻醉药都是在这里问世的。这些幼童每二、三名寄宿于一户美国家庭，从学童阶段就融入美国社会家庭，进行语言学习。黄开甲在美国先入哈特福德中学学习，这座学校创办于1863年，是美国历史上第二古老中学。当时幼童在学校都有“绰号”，黄开甲的绰号是“小旋风杰克”，可见其时他的敏捷和精干。由于学习成绩优秀，黄开甲经三年学习后进入耶鲁大学继续深造。

黄开甲天资聪颖，在美国留学时各门功课都是优等。钱钢与胡劲草合著的《留美幼童：中国最早的官派留学生》一书中有详细的描述：“在一年一度的哈特福德中学毕业典礼演讲比赛中，当地的《每日论坛》报道了毕业典礼的详细情况。《每日论坛》当时是这样评述的，那天最精彩的当属中国学生黄开甲。黄开甲演讲的题目是讲述法国某大臣的一生。尽管黄的英语略带口音，但他极其出色地运用了优雅的表情——尤其是恰到好处的手势。黄的遣词造句非常得体，段落组织精妙绝伦，成为当天演讲比赛的出彩学生，获得一个美丽的花篮和观众热烈的掌声”。这时的黄开甲开始崭露头角，显示出过人的才华。

在耶鲁大学读书期间，多才多艺且富有运动天赋的黄开甲，参加了一批酷爱运动的“留美幼童”组建的耶鲁“东方人棒球队”，队员包括蔡绍基(后任北洋大学校长)、詹天佑(中国铁路工程的鼻祖)、梁敦彦(后为清末外务尚书)等，他们在比赛中经常打败美国学生组成的球队，名噪一时，成为当时美国校园响当当的中国学生队。

就在黄开甲踌躇满志攻读耶鲁大学二年级课程时，因清廷守旧派的阻挠，留美幼童全部被召回国。黄开甲也遗憾的成为耶鲁大学的肄业生。回国之初，他们这批人受到明显的排斥与冷遇，所获得的待遇也非常之低（一个月只发给数两银子）。回到上海后，失落的黄开甲写信给他的美国“家长”巴特拉夫人，其中不乏愤怒的倾诉道：“我们曾经幻想，热烈的欢迎、熟悉的人潮和祖国温暖的手臂在等着我们。可是，这完全就是幻想！……通过法租界时，因没有通行证，我们必须下车自扛行李，……为防我们脱逃，一队中国水兵押送我们去上海道台衙门后面的‘求知书院’。学院已关闭十年了，墙壁剥落，地板肮脏，石阶满布青苔，门窗均已潮湿腐烂。一跨进门坎，立刻霉气熏鼻，这些阴暗似乎象征我们的命运。

当时的中国，正是洋务运动方兴未艾之时，清末洋务大臣盛宣怀举办邮政、轮船招商局、铁路和矿务等近代事业，需大量熟悉西方知识和事务的人才。黄开甲在汕头作短暂停留后，投奔到盛宣怀处，任其贴身翻译秘书，直接参与了中国洋务的各项活动，并显示出过人的学识和办事能力。1904年世界博览会在美国的圣·路易工斯市举行，曾参加过1876年美国费城百年博览会的黄开甲，以其丰富的阅历，奉命赴美出任中国馆副馆长，直接主持开馆和展览事宜。当时清廷耗银70万两单独建馆参展，在博览会场搭建了具有浓郁民族风格的“中国村”和“中国展馆”。“中国村”由城墙团团围起，入口处有牌楼，里面有六、七层高的宝塔和中国式的亭台楼阁，吸引了众多观众参观。

值得一提的是，当年黄开甲在博览会晚宴上的演说极为精彩，至今为人所津津乐道。他就美国限制华人入境政策发表精辟的见解：“在你们对所有的中国人、中国学生关闭大门时，欧洲却向他们敞开胸怀。因为他们知道若干年后这些年轻人对他们意味着什么，也许你们可以通过武力获得很多你们想要的东西，但必须记住你永远也无法通过武力获得商业的利益……”

100多年过去了，黄开甲这些留美幼童虽然早已远逝，但那段历史与人物不应被尘封和忘记。当年与黄开甲一起的留美幼童还有后任民国第一任总理的唐绍仪、天津巡警道曹嘉祥、天津招商局总办周寿臣等。最富传奇色彩的是，连续四任天津海关道全部为留美幼童，他们分别是：唐绍仪、梁敦彦、梁如浩、蔡绍基。

黄开甲先后就读于美国康涅狄格州的哈特福德西部中学和哈特福德公立高中，并以全优的成绩考入耶鲁大学继续完成本科学习。在高中毕业典礼上，黄开甲代表那一届的毕业生发表了毕业演讲。他精彩的演说和过人的语言才华被哈特福德当地的报纸争相报道。

黄开甲归国后，辅助宫保创设洋务衙署。其时我国电讯、轮船、铁路、矿务等处于萌芽阶段，以后得以逐渐发达，他作出了襄助之力。且黄氏深谙外交与洋务，免受洋人诈骗，挽回损失，因此受到清廷赏识器重。1901年他被派充赴英国祝贺英皇加冕专使二等参赞官，并授以赴比利时、法国、美国、日本等地考察各项要政任务，联络友谊，增进交往。从此奔波外事活动多年，建树匪浅。由于他受过欧美教育，所到之处，皆受欢迎。考察期间曾接受比利时国王、法兰西元首、日本天皇等分别赠送各种勋章、纪念章，以表彰其功绩。

1904年，他奉命随清廷要员贝子溥伦访问美国，还以副监督身份参加美国圣路易斯国际博览会。与此同时还拜访美国政府要人，联络亲善，加强邦交。1905年9月，日俄战争结束后，日俄两国代表在美国朴茨茅斯城签订和约，黄氏作为中国代表之一，奉旨赴美国出席“波特兰和平会议”。会后，他再一次奉命考察美、日等国商务。

清朝同治年间，有“北詹南黄”之称。北詹是自行设计建设我国第一条铁路的詹天佑；南黄是在船政、织造、铁路、海关等方面作出贡献的黄开甲。

黄开甲出身书香之家，伯父黄道崇曾任道台；祖叔父黄虎岩是清道光年间的副榜进士，曾任冀州新河等县知县；父亲黄岳川曾被教会送美国攻读英语，返国后任清廷翻译，担任过“中英条约”翻译。黄开甲居黄岳川六子之长。大清电信掌门人之一黄开文是其堂弟。黄素贞是其妹妹。黄玉蓉是其侄女。

黄氏生有二子，长子黄文龙留学美国耶鲁大学，毕业回国后服务。其孙黄炽昌毕业于交通大学，20世纪五十年代初曾任国家交通部总工程师。其次子黄文骏早年留学美国，就读美国陆军大学，毕业之日，适逢抗日战争爆发，返国从戎报效，后率家眷重返海外，为抗日救国鼓与呼。黄开甲长子黄文龙的妻子唐金铃是广东香山唐家村著名的民族企业家唐廷桂的孙女、留美幼童唐荣俊的二女儿。

黄志航是黄开甲的侄孙，曾担任过新疆维吾尔自治区侨联委员、新疆维吾尔自治区民革委员、乌鲁木齐市头屯河区政协常委、乌鲁木齐市头屯河区侨联副主席等职。