《2023年度游戏安全观察与实践报告》重磅发布！
回顾2023年的游戏行业,大事件一个接一个。
年初,AIGC浪潮从大洋彼岸袭来,使得全球资本市场看好AIGC将对游戏行业“成本”与“效率”带来革命性的变化;年末,国家新闻出版署一次性批准了105款国产游戏版号,为历史之最;全年亦有不少“某某大厂裁撤游戏业务”、“某某游戏风靡全球”、“某某游戏公司业绩再创新高”等新闻时常出现在行业发展的时间线之中。
游戏行业一直活跃在大众关注度最高的风口浪尖。然而,勇立潮头虽然风光,但在背后也有其不被人看到的各种痛点问题。
游戏行业的氪金属性一直受到黑灰产团伙的觊觎,他们使用外挂、私服、打金、DDoS攻击、虚假数据等手段,给游戏安全环境带来了越来越多的挑战。甚至一些新兴游戏公司也可能在短时间内受黑产影响而蒙受损失。
1月11日,网易易盾正式发布《2023年度游戏安全观察与实践报告》(下称《游戏安全报告》)。《游戏安全报告》以自身在游戏安全方面的治理实践为基础,以全球游戏产业安全运营与合规治理为视角,通过对上百亿的治理数据量、上万黑灰产工作室场景、1000+主流游戏安全问题展开详细分析,揭示2023年游戏产业面临的安全问题全貌,给予当前游戏行业各环节以客观启示。
这也是网易易盾连续第三年发布有关游戏安全的详细报告。
作为网易智企旗下专业的数字内容风控服务商,网易易盾自2016年起,深耕游戏安全领域,从内容安全、业务安全和应用安全三大方向着手,整合提供面向PC、移动、小程序等不同平台,智能风控、反营销欺诈等不同场景,棋牌、SLG、FPS、MOBA、MMO、休闲三消等不同细分品类的各类解决方案,致力于为国内外众多游戏厂商与工作室提供专业的游戏安全服务,并联合各方社会机构共同展开基于游戏产业的黑灰产问题治理,推动游戏产业生态的可持续发展。
01.百亿数据、上万场景、1000+主流游戏的背后
《游戏安全报告》是网易易盾游戏安全实验室自2023年Q4开始投入众多资源而得出的重要研究产物,凝聚了网易易盾在游戏安全场景下100+亿数据沉淀分析、1000+主流游戏游戏安全痛点分析和10000+游戏黑灰产工作室场景治理分析。
凭借扎实的数据、丰富的案例、立体的场景与科学的分析,《2023年度游戏安全观察与实践报告》聚焦于外挂风险、经济安全风险、内容合规风险、未成年人保护、隐私合规5大安全挑战,并给出详细阐述。
外挂风险持续加剧,AI反外挂日趋成熟
2023年全年,游戏总体风险对抗激烈并呈现出上升态势,易盾全年累计检测安全风险217亿次,同比增长41.4%,其中环境风险威胁较大,检测63.8亿次,占整个检测安全风险类型的29.4%。外挂危险持续增长,2023年全年累计检测46.5亿次,占比21.4%,同比增长14%。
随着外挂治理的深入,传统的反外挂方式不断被挑战,AI在反外挂治理中正在逐渐发挥价值,特别是在解决客户特定痛点问题方面。另外在检出结果上面,通过AI反外挂交叉验证作弊用户、处置信息,在进一步分级将各自方案的边界逐步扩大,发挥出每个方案的优势,从而实现效果层面1+1>2的最高级别防控要求。
经济安全事关游戏运营根基,亟待解决
游戏经济安全的问题主要在游戏黑灰产团伙。游戏黑灰产团伙是以游戏赚钱为目,通过多渠道,多手段,具备团伙性质的牟利群体。他们通常会使用自动化工具、同步器、多开器乃至脚本、外挂等作弊手段,通过大量重复刷取游戏资源实现获利,或以远高同等分段水平代替“付费玩家”实现上分的代练获利团伙。
易盾黑产研究院2023年监测活跃的游戏黑产工作室团伙设备141万台,识别检出团伙账号超过1300万个,累计检测超过9000万人次。同比去年提升30%,价值规模超100亿元。在如此庞大的流水线式黑产规模下,游戏黑产团伙工作室的问题使我们不得不重视。
黑灰产团伙破坏了游戏交易平衡、冲击了游戏经济系统、影响了正常玩家体验,最终威胁到游戏本身的寿命与健康,治理它们是整个行业的“头等大事”。
内容合规治理已普及,仍需更高技术加持
近年来,随着游戏产业的高速发展,游戏不仅成为了人们休闲娱乐的工具,同时也扮演着文化传播的内容载体。伴随着类似于《蛋仔派对》这样的开放式派对游戏的火爆,游戏内容创作不仅包含了游戏厂商的产出,同时玩家也在游戏内容创作中发挥着越来越大的价值。
游戏的垃圾信息包含多种多样,从形式上来看我们可以理解为文字、图片(含表情包)、音频为主,部分游戏内还存在视频载体内容。
通过全年9000+亿的数据检测量研究发现,当下的内容合规治理在各大游戏中已经普及,但其数量大、类型多、更新快的特点仍需更强、更精、更高的技术以助其一臂之力。
02.游戏“下西洋”:于风浪中扬帆
2023年在各大商业和经济话题中随处可见的一个词就是:出海。对于无论是各大行业巨头级别的企业,还是创业型企业来说,出海不仅从可选项变成了必选项,并且在各个行业里掀起了一阵又一阵的风潮,已成时代趋势。
其中,游戏便是出海主力行业中最强势的船队之一。
本次《游戏安全报告》的另一重大看点,即相比于过往报告,新增了全球视角下中国游戏产业出海的安全合规挑战与治理实践总结。
《游戏安全报告》指出,国内市场竞争的日趋激烈,使得许多的游戏厂商将目光瞄向了海外市场,除了欧美、日韩等发达地区之外,中东、东南亚、南美也成为中国游戏厂商游戏出海必选之地。相较于国内熟悉的市场环境,许多刚刚进入海外市场的游戏公司很难适应对应地区的相关法律和规范。面对一个陌生的市场,游戏厂商需要关注许多方面的问题,比如隐私合规、内容合规性、法律法规合规、文化适应性、支付安全以及区域合作等,都会成为国内游戏出海航线上的“风浪”。
虽有风浪,亦可扬帆。谁都想成为乘风破浪、登陆大洋彼岸的“拼多多、Shein、米哈游、莉莉丝们”的其中之一。
以内容合规为例,《游戏安全报告》给出了详细建议。内容审查是游戏出海中的重要环节,不同国家和地区对游戏内容的审查标准存在差异,因此需要根据当地的法规和文化习惯进行内容审核,以确保符合出海地区/国家的法规和文化习惯。游戏内容涉及游戏LOGO、游戏宣传视频、游戏角色、游戏服装道具、游戏配音等是否涉及暴力、血腥、性暗示、文化禁忌等元素的审查。为了确保合规,游戏开发者可以与当地的合作伙伴或第三方机构合作,进行内容审核和修改,以满足当地市场的需求和合规要求。
03.2024年游戏安全趋势洞察
2024年,游戏安全仍然会是游戏产业发展的头等命题之一。对此,网易易盾游戏安全专家团队在《游戏安全报告》中也给出了关于2024年游戏安全发展趋势的最新洞察。
AI对抗将成为游戏外挂对抗常态
2023年8月11日,鹰潭市公安局余江分局网安大队接到群众余某报警,称其游戏账号被盗,许多天都登录不上,该账号他经营了几年,陆续充值了10余万元用于购买装备。
办案民警经调查发现,该团伙贩卖的“外挂”利用时下流行的智能AI算法,通过收集游戏人物的动作、表情、走位,配合自制的“DMA硬件挂”等,就能模拟玩家真实操作,无需接触游戏内部数据就可作弊,有着更强的隐蔽性。一旦发现被游戏运营团队监测、封禁,该团伙立即对产品进行迭代更新,制作新的“外挂”。由此可见,AI已经成为外挂对抗游戏治理的一种全新的方式,而在AI加持下的外挂治理将更难。
隐藏是游戏对抗中永恒的主题
随着游戏厂商与游戏黑产的对抗的深入,黑产利用不对称的高权限使用各种方式隐藏或者伪装成正常的文件特征对抗通用的检查;使用各类加密、混淆、VMP等手段增加自身安全,提高安全人员分析的门槛;偏向辅助类,减少外挂使用者对游戏数据的暴力修改,加大甄别的难度等。
未成年人保护将更加严格
伴随着2024年1月1日《未成年人网络保护条例》的实施,对游戏方围绕未成年人治理的挑战将更加严峻,如何做好未成年人游戏在线时长识别与治理,游戏社区互动治理,游戏虚拟币充值治理将成为游戏公司去探索和实践的首要任务。当然,即使《未成年人网络保护条例》没有实施,未成年人保护对于游戏公司来说也非常的重要和严峻,而伴随着立法的出台,游戏未成年人治理将向法治转变。
开放世界游戏UGC内容需要引起重视
随着开放世界游戏的兴起,游戏玩家自主创意的游戏场景将越来越多,而由此带来的游戏安全风险则走向失控。
由于开放世界游戏的自由度和开放性,一些游戏玩家在游戏中利用游戏提供的各种组件进行组合,从而搭建出不合法、不合规、破坏社会风气的建筑物。此外,AIGC在游戏内的引入,部分玩家引导智能NPC在对话中发表不当言论,从而导致玩家游戏体验环境质量下降。对于开放世界中玩家能够自行产出、引导平台产出的内容,游戏平台需要重视起来。
游戏安全治理,是一场黑与白的较量。
“黑灰产的五花八门”给整个行业带来了明显的困扰和损失。未来,作为“白色阵营”中的领军者,网易易盾正在也会一直肩负自己的责任和使命,将持续开放能力,对抗游戏安全风险和黑灰产业链,助力游戏行业营造更具公平性的游戏环境,携手伙伴推动游戏产业构建可持续发展生态。
