网络水军

更新时间:2024-10-31 08:35

网络水军是指在网络中针对特定内容发布特定信息的、被雇佣的网络写手。网络水军通常简称水军,又名网络枪手,他们通常活跃在电子商务网站、论坛、微博等社交网络平台中。他们通过伪装成普通网民或消费者,通过发布、回复和传播博文等对正常用户产生影响。

水军定义

由于在线社交网络信息传播速度快和受众多等特点,大量有着商业目的的话题推广活动在社交网络中展开。在这些话题推广活动中,大量的水军用户被组织起来发表和传播特定的信息。在微博中,水军是一种特殊的垃圾用户,他们被组织起来发表、回复、转发博文或提及他人(@ 用户名),以达到快速传播目标博文的目的。大量的有目的甚至不真实的博文在社交网络中传播,不仅让正常用户无法看清事件的真相,而且会对他们造成误导,造成不良的社会后果。例如,中国著名导演陆川宣称他的电影《王的盛宴》遭受网络水军的严重诋毁,严重影响了此电影的票房。为了减少网络水军造成的负面影响,研究网络水军的群体特性及其检测方法具有重要意义。网络水军是一群有着特殊目的(如商业推广目的等)的在线用户,他们被组织起来在社交网络中发布大量的推广信息,使得话题是自然传播的还是人为推广的难以分辨。

水军特征

第一,典型的水军具有很强的群体特征,而垃圾用户通常强调的是单个用户。

第二,水军有可能对个人、公司或组织造成伤害,而垃圾用户通常只是增加垃圾信息。

第三,水军既可以是被平台API(如新浪微博开放平台API)控制的程序机器人,也可以是公司的雇员或者临时招募的人员等真实的用户,这与传统研究的程序机器Twitter bot等不同。

第四,水军通常比垃圾用户更隐蔽。很多水军在通常情况下是正常用户,只有在特定任务到来时才表现出水军的特质,这增加了水军检测的难度。淘宝、亚马逊等电子商务网站中的意见垃圾用户(Opinion Spam) 也是水军的一种,但是意见垃圾用户的检测通常是基于电子商务网站的用户评论进行的。

发现方法

宋(Song)等认为基于用户行为特征的方法具有易伪装性而使得此类方法效果不佳,如果网络水军掩饰自己的被该类方法检测的行为,那么此类方法难以进行检测。他们认为用户间的关系网络相对于用户行为更加稳定,因此他们提出了基于用户关系网络的水军识别方法。他们利用用户间距离和用户关系强度等特征使用多种分类器进行学习,实验发现推特(Twitter)中的只有少数正常用户被水军发布的意见所影响。克里斯特尔(Krestel)等在标签分享站点中建立用户、标签和网络资源的关系结构,然后给定若干种子节点为水军的概率值,假定与水军相邻的用户也很可能为水军,即节点为水军的可疑度是可以在网络中传播的,据此计算得到所有用户为水军的概率值。巴特(Bhat)等发现社交网络水军也会组成社区,他们利用用户行为日志抽取用户交互图并发现水军的重叠社区。他们在数据集中加入了模拟的网络水军用户,此方法的性能仍有待于在真实数据集上进一步验证。

卢(Lu)等使用评论因子图模型(Review Factor Graph Model) 将内容特征与用户特征相结合,然后利用已知的网络水军通过可信度传播理论发现其它未知的网络水军。此方法可以同时发现网络水军和其发布的虚假评论。由于种子水军是事先人工标注的,因此在真实环境中水军识别的准确度可能有所下降。许(Xu)等收集了亚马逊网(Amazon)中的约13万件产品及其评论数据,共包含约60万评论用户。他们分析了用户行为特征并构建分类器发现网络水军,然后他们利用网络水军间的关系修正分类结果以达到更好的效果。

津曼(Zinman)等对社交网络中的用户行为特征和关系网络进行了分析,然后利用朴素贝叶斯模型和神经网络模型对社交网络中的用户进行建模,发现网络水军的典型行为模式。

为了发现网络水军,王(Wang)等首先分析不同于正常用户的个体及群体特征,在当前的水军和垃圾用户的研究中,个体统计特征被广泛研究,但是水军作为群体表现出的群体特征则很少涉及,作者分析和研究了水军的4个个体特征和6个群体特征。然后基于这些特征,提出了一种基于逻辑回归模型的水军用户检测方法。在检测出的水军基础上,分析了在同一个话题中出现的水军社区和同一社区中水军的观点倾向,以研究水军的群体特性。在已发现的水军基础上,发现推广活动的幕后推手。

人员构成

一是核心人员,主要包括网络公关公司及其雇用的“写手”和“水军”。网络公关公司是“网络水军”的幕后老板,负责接受“客户”请求,策划组织网络炒作、有偿删帖等活动;“写手”熟悉网民心理,专职撰写、提供炒作素材;“水军”是网上炒作活动的具体实施者,以网上有偿发帖牟利。

二是上游人员,即“网络水军”业务的需求者,主要包括广告商、委托人、爆料人。广告商通过“水军”炒作提高其投放广告的点击量;委托人、爆料人提供炒点,通过“水军”攻击炒作指定单位、人员,达到某些诉求。

三是下游人员,即“网络水军”业务的辅助实施者,主要由专业推手、小型非法网站运营者和知名网站“内鬼”构成。专业推手往往是一些网络“大V”、“网红”等,借助自身在“粉丝”中的影响力,为炒作活动站脚助威;小型非法网站运营者、知名网站的“内鬼”(如编辑、版主)主要是协助“网络水军”删除、置顶帖文等,从中谋取非法利益。

盈利模式

一是有偿删帖。非法建立小型网站,针对地方企事业单位、个人,依托爆料人捏造事实、甚至恶意诽谤,并利用网络推手大肆炒作,胁迫涉事人员和企事业单位出钱“了事”。

二是有偿发帖。借助开办的所谓互联网公司,承接“客户”发帖业务,通过雇用的“网络水军”,有目的有计划地大规模炒作。

三是非法广告宣传。通过雇用的“网络水军”,并依托有关系的“网络大V”、知名博主、论坛版主、网红等,为“客户”转发非法广告、扩大宣传效应。四是恶意传播木马病毒,提高点击率。通过将木马植入网页,刷新网页点击率以博取广告商“眼球”,招揽业务、获取经济利益。

作案方式

一是作案手段隐蔽,手法隐晦。一些自媒体“网络水军”团伙为规避打击,将涉案网站搭建在境外,使用虚假身份办理银行卡、支付宝、财付通、4G网卡,作案手法专业,已形成集假网站制作、假身份销售、假银行卡账号办理于一体的非法产业链条。

二是冒用新闻媒体名义,借助虚假新闻网站进行炒作。犯罪团伙通过网上搜索企事业单位负面信息,发布或威胁发布负面贴文炒作,形成舆论压力,实施敲诈勒索活动。虚假新闻网站往往被冠以“法制”、“中国”、“中华”等字眼来制造影响力。

三是真假记者勾结串联相互作案。真记者主要是借助其记者身份与受害单位接触,假记者主要从事目标选择、炒作等非接触性工作,不直接索要钱财,而是通过“报刊费”、“广告宣传费”、“会员理事费”等名义变相实施敲诈勒索。

四是造假引流,阻碍市场经济的良性发展。网络水军为获取不法利益而提供有偿删发贴服务,组织团体在电商平台内刷评论、刷点赞,营造虚假销量,误导消费者,使部分假货横行,物美价廉的好物却因此无法受到消费者的关注。长此以往,“劣币驱逐良币”的现象日益凸显,不仅侵害了消费者的正当权益,也影响着市场经济的健康发展。

五是挑起矛盾,影响社会的和谐稳定。网络信息传播速度快,部分网络水军故意传播虚假信息挑起社会矛盾,激化不同群体之间的矛盾。更有甚者,部分水军动辄在在互联网上对其他网民进行言语辱骂、人肉搜索甚至是网络霸凌,极易引发社会事件,严重影响社会和谐稳定。

六是煽动舆论,威胁国家安全。部分网络水军受境外势力指示,在网络空间不断制造谣言、煽动群众情绪,误导舆论,导致社会矛盾进一步激化,甚至引发群体性事件,危机国家安全和稳定。

社会影响

社会危害

“网络水军”早已不是什么新鲜之事,但是“网络水军”的黑产却随着互联网的发展而也野蛮生长。一开始的“单兵作战”逐步到“规模团战”,从侧面的舆论引导到直接正面的黑公关,从小额敲诈到涉案金额高达千万的巨额勒索,“网络水军”越发肆意地扰乱网络秩序。自媒体的兴起之下,网络平台极低的准入门槛更是让“网络水军”得寸进尺,以更大的曝光换取更多的非法收益。

扰乱市场

2021年12月1日,某古装剧在互联网平台上线。由于一些原因,该剧的正式上线时间比原来的“官宣”时间晚了将近一个小时。然而,在某知名打分平台的短评打分区,却有大量评分在原定上线时间集中涌入。“超前点评”事件快速发酵,被多家媒体关注报道,虽然很快大部分“超前点评”的内容已被删除,但通过媒体报道中的评分截图来看,这些短评呈现一星和五星两极分化的状态。

在12月5日首播的某部悬疑网剧中,女主演尚未登场的前两集播出后,网络社交平台上同样准时涌现了大量质疑其演技、台词的论调和一星短评。两部影视剧出现的“超前点评”现象被网友和媒体质疑为“水军”刷分控评。

“水军”对影视剧控评的行为,不但对网友、影视产业发展以及打分平台等各方面都会产生不良影响,甚至还有可能涉嫌违法。

综合治理

专项整治

2018年以来,公安部侦破自媒体“网络水军”团伙犯罪案件28起,抓获犯罪嫌疑人67名,关闭涉案网站31家,关闭各类网络大V账号1100余个,涉及被敲诈勒索的企事业单位80余家。

2020年11月5日,国家网信办召开全国网信系统电视电话会议,决定在全国范围内开展为期2个月的网络“有偿删帖”问题专项整治。据了解,此次“有偿删帖”问题专项整治行动,全国网信部门将全程跟进督导,严肃约谈处理一批问题严重、整改不力的网站平台,及时查办曝光典型案例,形成震慑效应。

2021年6月15日起,中央网信办在全国范围内开展为期2个月的“清朗·‘饭圈’乱象整治”专项行动,重点打击雇用网络水军刷量控评等行为。

2021年12月22日,中央网信办召开全国网信系统视频会议,指出当前流量造假、黑公关、网络水军问题相互勾连、互为策应,损害网民合法权益,扰乱网络舆论环境,破坏公平竞争的市场秩序,人民群众深恶痛绝、反映强烈。对此,中央网信办决定在全国范围内开展为期2个月的“清朗·打击流量造假、黑公关、网络水军”专项行动。

2021年第四季度,江苏网信系统按照国家网信办统一部署,组织开展了“打击流量造假、黑公关、网络水军”等一系列净化网络空间专项工作,强化多部门联合执法,切实加强网络生态治理,依法打击网上各类违法违规行为。

2021年,公安部在全国部署开展“净网2021”专项行动,依法严厉打击非法黑公关等“网络水军”违法犯罪,依法关停“网络水军”账号620万余个。

公安机关网安部门依托“净网”系列专项行动,持续对“网络水军”相关违法犯罪依法开展侦查打击,近3年侦办相关案件600余起,抓获嫌疑人4000余名,取得了初步成效。

2022年6月,为回应社会关切,进一步遏制“网络水军”及相关黑灰产业的滋生蔓延趋势,切实维护网络生态、市场经济秩序和广大人民群众合法权益,即日起,公安部网安局在全国范围内启动为期6个月的依法打击整治“网络水军”专项工作。

2022年8月23日,中央网信办副主任、国家网信办副主任盛荣华介绍:中央网信办结合每年开展的“清朗”系列专项行动,将网络水军作为“清朗”系列专项行动当中的一项重要任务,集中力量来整治这方面的问题。

2023年3月28日上午,国务院新闻办公室举行新闻发布会,国家互联网信息办公室网络综合治理局局长张拥军介绍,从国家网信办职能讲,今年的水军治理重点聚焦网络水军操纵信息内容问题,主要从以下四个方面整治:一是阻断招募推广渠道,二是全面查处实施水军活动工具,三是严惩违规账号及背后主体,四是压实网站平台主体责任。

2023年10月8日,据公安部网安局微信号消息,安徽警方依托“净网2023”专项行动和夏季治安打击整治行动,坚持“以打开路、以打促治”工作思路,成功打掉一批“网络水军”犯罪团伙,进一步遏制“网络水军”及相关黑灰产业的滋生蔓延。

2024年5月,太原市公安局网安支队与晋源分局网安大队联合办案,全链条打掉一个涉案金额达1000余万元的“网络水军”团伙,涉及山西、内蒙古、陕西、湖南等多地。完善功能,涉案店铺151家,电子设备300余部、累计业务量达175万余单;投手、中介、店铺、平台;既有庞大的业务量,也有自己的架构层级。

上线防水军控评功能

2022年4月29日,豆瓣发文称,为更好地保证豆瓣评分的中立性,避免水军通过在短评区“控评”来引导舆论和评分,已于近日上线了防水军控评功能。当影视条目的短评区集中出现大量具有争议或明显具有水军特征的短评内容、且这些短评尚未被处理完毕时,此项功能就会开启。

量刑处罚

(一)以盈利为目的,在网络上有偿提供发布虚假信息、或有偿提供删除信息等服务,可能涉嫌非法经营罪。

《关于办理利用信息网络实施诽谤等刑事案件适用法律若干问题的解释》第七条 违反国家规定,以营利为目的,通过信息网络有偿提供删除信息服务,或者明知是虚假信息,通过信息网络有偿提供发布信息等服务,扰乱市场秩序,具有下列情形之一的,属于非法经营行为“情节严重”,依照刑法第二百二十五条第(四)项的规定,以非法经营罪定罪处罚:

(一)个人非法经营数额在五万元以上,或者违法所得数额在二万元以上的;

(二)单位非法经营数额在十五万元以上,或者违法所得数额在五万元以上的。

实施前款规定的行为,数额达到前款规定的数额五倍以上的,应当认定为刑法第二百二十五条规定的“情节特别严重”。

(二)在网络上发布负面帖文,以删帖为由,敲诈勒索公私财物,可能涉嫌敲诈勒索罪。

《刑法》第二百七十四条规定:敲诈勒索公私财物,数额较大或者多次敲诈勒索的,处三年以下有期徒刑、拘役或者管制,并处或者单处罚金;数额巨大或者有其他严重情节的,处三年以上十年以下有期徒刑,并处罚金;数额特别巨大或者有其他特别严重情节的,处十年以上有期徒刑,并处罚金。

(三)在网络上散布或指使他人散布虚假信息、起哄闹事,造成公共秩序严重混乱的,可能涉嫌寻衅滋事罪。

《关于办理利用信息网络实施诽谤等刑事案件适用法律若干问题的解释》第五条 编造虚假信息,或者明知是编造的虚假信息,在信息网络上散布,或者组织、指使人员在信息网络上散布,起哄闹事,造成公共秩序严重混乱的,依照刑法第二百九十三条第一款第(四)项的规定,以寻衅滋事罪定罪处罚。

《刑法》第二百九十三条规定:有下列寻衅滋事行为之一,破坏社会秩序的,处五年以下有期徒刑、拘役或者管制:(一)随意殴打他人,情节恶劣的;(二)追逐、拦截、辱骂、恐吓他人,情节恶劣的;(三)强拿硬要或者任意损毁、占用公私财物,情节严重的;(四)在公共场所起哄闹事,造成公共场所秩序严重混乱的。纠集他人多次实施前款行为,严重破坏社会秩序的,处五年以上十年以下有期徒刑,可以并处罚金。

法律法规

2023年9月25日,最高人民法院、最高人民检察院、公安部联合发布《关于依法惩治网络暴力违法犯罪的指导意见》,实施网络暴力违法犯罪,具有以下五种情形之一的,依法从重处罚:针对未成年人、残疾人实施的;组织“水军”、“打手”或者其他人员实施的;编造“涉性”话题侵害他人人格尊严的;利用“深度合成”等生成式人工智能技术发布违法信息的;网络服务提供者发起、组织的。

相关案件

地方查处

2018年7月,天津首个利用网站实施“网络水军”非法删帖炒作的案件于近期被侦破,16名犯罪嫌疑人被抓获,电脑、手机、移动存储设备及银行卡等一大批涉案物品被扣押。此案涉案金额高达800余万元。

2018年11月28日,四川省叙永县公安局发布通报称,该案系四川全省公安机关破获的首例“网络水军”团伙案,已进入公开审理阶段。

2018年12月,据福建省公安厅消息,莆田警方侦破一起公安部挂牌督办的“网络水军”案件,摧毁网络恶势力犯罪团伙1个、成员4人,查清炒作网络舆情事件215起,关停非法网站100个。

2004年6月,河南新乡警方摧毁了一个拥有大量“网红”“大V”账号的特大“网络水军”犯罪团伙,这个犯罪团伙还使用专门的控制软件,实施批量转发、点赞、评论,一个人就可以操作数百个账号。

2024年7月4日,杭州互联网法院组成七人合议庭对公益诉讼起诉人杭州市滨江区人民检察院诉杨某某、某传媒公司、某网络公司、某科技公司网络侵权责任纠纷民事公益诉讼案公开开庭审理,当庭判令四被告删除已发布的虚假信息,注销“网络水军”的虚假账号1200余个,在国家级媒体公开赔礼道歉,并赔偿公益损害赔偿金共计100万元。

2024年8月,河南新乡警方成功摧毁了一个拥有大量“网红”“大V”账号的特大“网络水军”犯罪团伙,抓获犯罪嫌疑人276人,涉案金额达5000万元。

2024年3月,一款名为“某某战队”的微信小程序,打着躺着就能赚钱等噱头,招募全国各地人员充当“网络水军”,经查该团伙自2022年3月以来,通过虚假下单、刷好评等方式为一些平台1000余户商家“刷单控评”,涉案金额达1亿元。10月,有“网络水军”团伙在四川遂宁街头赠送小礼品,骗取老人个人信息在网络平台开通账号,然后为平台商家“刷量控评”牟取返利。涉案金额达200余万元。

全国总量

2018年以来,公安部侦破自媒体“网络水军”团伙犯罪案件28起,抓获犯罪嫌疑人67名,关闭涉案网站31家,关闭各类网络大V账号1100余个,涉及被敲诈勒索的企事业单位80余家。

2022年以来,“网络水军”及相关黑灰产业呈现滋生蔓延态势,执法部门通过“净网”等专项行动,持续依法打击“网络水军”相关违法行为。来自公安机关网安部门的统计显示,近3年侦办相关案件600余起,抓获嫌疑人4000余名。

2022年9月8日,公安部召开新闻发布会,介绍了公安部2022年组织开展打击整治“网络水军”专项工作,已累计侦办相关案件339起,超过历年的全年侦办案件总数。

2022年9月8日,公安部网络安全保卫局局长王瑛玮介绍,“百日行动”开展以来,全国公安机关集中侦破“网络水军”案件147起,抓获违法犯罪嫌疑人1285人,依法关停“网络水军”账号21万余个。

2023年7月21日,公安部通报开展网络谣言打击整治专项行动总体成效情况:专项行动中,依法侦办“网络水军”案件130余起,抓获犯罪嫌疑人620余人。

2024年3月8日,第十四届全国人民代表大会第二次会议上,最高人民检察院检察长应勇向大会作最高人民检察院工作报告,报告提出:2023年,检察机关推动网络空间依法治理,制定检察机关网络法治工作21条意见,起诉利用网络实施的犯罪32.3万人,同比上升36.2%。

社会评价

如果说黑灰产业链让网络水军“有利可图”,那么部分平台责任缺失,则让他们“有空可钻”。

  “谁经营谁管理,谁受益谁负责”,这是常识。互联网经济是诚信经济,只要流量不要质量、只要热度不要态度、只看商业价值不看社会价值等做法,不仅损害用户的合法权益,也会破坏公平竞争的市场秩序、侵蚀互联网的信任基石,无异于杀鸡取卵。整治网络水军乱象,平台绝不能袖手旁观,而且用户越多、流量越大,责任也越大。

  网络平台作为信息内容管理的主体,在甄别、发现、防范“水军”上大有可为,必须主动扛起责任、牢牢把住关口,答好这道发展考题。(人民日报评)

最高检工作报告

最高检工作报告说,2023年,检察机关推动网络空间依法治理,制定检察机关网络法治工作21条意见,起诉利用网络实施的犯罪32.3万人,同比上升36.2%。严厉打击“网络水军”造谣引流、舆情敲诈等违法犯罪,净化网络舆论环境。

央视曝光

2024年3月15日,2024年中央广播电视总台3·15晚会曝光网络水军利用主板机随意更改IP逃避监管的行为。

免责声明
隐私政策
用户协议
目录 22
0{{catalogNumber[index]}}. {{item.title}}
{{item.title}}