1937年中日战争、芦沟桥事变爆发；1938年日本海军航空本部征召儿玉，派驻上海。 日本外务省情报部也委付儿玉于上海搜集战情。偷袭珍珠港前半年，奉日本海军少将、神风特攻队之父大西泷治郎之令，成立“儿玉机关”，杀害了不少中国的抗日志士和无辜百姓，并搜刮战争物资给日本海军。儿玉机关负责的进出口项目，既多又杂且广，除了铜、镍、钴、镭等重要金属和石油、粮食等民生物资外，还有一项鲜为人知的工作，就是搜括占领区内有价值的贵重物品，包括从民间掠夺而来的黄金、珠宝、玉石等等。这一切的搜括行为多半在半明、半暗的灰色地带下进行。不但得到日本当局及军方的默许，有些时候甚至获得官方的正式协助，他聚集的资金超过了175万美金。除了从事情报搜集活动，还在经济上资助在华日谍。川岛芳子一度活跃上海上流社会，在社交场合一掷千金，就是得到「儿玉机关」资助 ，这个机关是日谍的银库 ， 儿玉的金钱是在中国搜掠得来的「百合金」 ，日本投降后时他掌管着日本海军在上海的全部财产和秘密资金，在海军大臣米内光政的默许下，他转移了这笔资金，1945年被盟军定为甲级战犯，投入巢鸭监狱，但后来答应和中央情报局合作而于1948年被释放。

他在战后成为日本黑社会的头子，用大量金钱在幕後操纵政、财界人物。（参见稻川会词条）儿玉於一九五四年以大批黄金资 助鸠山一郎登上首相宝座，并使甲级战犯重光葵提前於一九五○年出狱，重出政坛，五四年担任鸠山一郎 内阁的外相。儿玉是日本战后右翼团体首批有头面人物，与之交往甚密的政、财界人士，其中多人后来成 为首相，包括佐藤荣作、岸信介、吉田茂、田中角荣、福田赳夫、中曾根康弘等。他还利用在满洲建立的人际关系，和韩国总统朴正煕、大本営参谋濑岛龙三促成了日韩和睦。在东京一九七四年辞去首相职位的田中角荣，于七六年被揭发卷入洛克希德公司行贿案。 事件肇於该美国公司通过其日本代理丸红公司及儿玉，向日本政界有关人士赠送巨款，使该公司生产的F-104战斗机顺利进入日本市场。儿玉是该宗丑闻的中心人物， 3月23日日活电影公司、效忠天皇的男脱星演员、29岁前野光保驾驶轻航机攻击儿玉誉士夫家宅，飞机挂布条上写“国贼”二字骂儿玉；儿玉因此中风送医。从此再无呼风唤雨之力。同年以“逃漏税”罪名被日本检察官提诉，因病死而撤案。

洛克希德案中涉嫌充当行贿受贿“掮客”的儿玉誉士夫，当时就被称为日本的“国士”。表面上他是一个热心慈善事业，爱好哲学，痛恨官僚腐败，对金钱无欲无求的人。但实际上，儿玉二战前为日本右翼“行动派”代表人物之一，二战后是日本多个黑社会组织的实际控制人、政经界幕后黑手、美国中央情报局在日本的代理人，对多位日本重要政治人物具有举足轻重的影响。鸠山一郎组建民主党时曾经得到过他的资金资助，岸信介则曾经是他在巢鸭拘留所时同为二战甲级战犯的狱友。政治家河野一郎中国人比较熟悉的日本政治家河野洋平的父亲，是自由民主党内的实力派国会议员。历任行政管理厅长官、经济企画厅长官、农林大臣、建设大臣等要职，在20世纪60年代初曾被认为是内阁总理大臣的有力人选。、大野伴睦等人更是与他交情匪浅，1960年儿玉誉士夫给自己办了一个“生人葬”，对于如此荒诞不经的事情，这两位碍于情面，还亲自跑去“送葬”，上香“祭拜”。据说，日本著名作家村上春树1982年出版的小说《寻羊冒险记》中的那位“先生”，就是以儿玉为原型构思出来的。