Meta发布含有AI生成的儿童性虐待图像的广告
编辑注:本文包含描述儿童性虐待图像的内容。强烈建议读者谨慎阅读。在过去的九个月里,马克·扎克伯格的Meta公司发布了数十个包含露骨的AI生成儿童性虐待材料(CSAM)和未成年人与性暗示性语句的图像的付费广告。根据与《连线》分享的广告详情,这些广告在某些情况下达到了数千个账户,目标人群包括美国、英国及十多个欧洲国家。最近,Tech Transparency Project(TTP)的研究人员在Meta的广告库中发现了超过50个带有侵害内容的图片和视频广告,显示部分广告链接到所谓的裸体化或脱衣应用。Meta的广告库是一个透明工具,用于列出在公司平台上展示的广告,显示这些广告在Facebook、Instagram、Messenger和/或Threads上投放。此发现是最近几周第二次在Meta的平台上发现与儿童性虐待材料相关的付费广告。TTP的主任凯蒂·保罗对《连线》表示:“这些广告没有任何遮掩图像或隐藏其推广内容的努力。重要的是要指出,这不是第三方在Facebook或Instagram上发布的内容,这些广告经过审核、批准并被Meta允许发布,而在公司收取广告费用的过程中从未遭遇干扰。”研究人员发现的广告——现在已经被Meta因违反其儿童性虐待和剥削材料以及成人性招揽和裸体政策而删除——都是在去年11月至8月初之间发布的。根据Meta广告透明库的数据,这些广告通常在几天内不断出现,有些广告只针对男性。TTP的研究人员表示,其中一个视频广告使用了一张孩子坐在地板上的缩略图,并在其上显示文本:“通过生成AI实现深层幻想【 sic 】。显示的内容只是冰山一角,快来发挥你的想象力。”研究人员称,当点击该广告时,会播放涉及成人性行为的视频片段,并将缩略图中的孩子面孔添加到性行为中。另一则广告则反复发布,显示一名年轻女孩以性姿势躺着,双腿分开,文本上写着:“我可以告诉你更多。”大多数广告在研究人员发现时并未主动向用户展示,但它们在Meta的广告库中显然未被检测到,持续可用数月。尽管根据Meta的数据,许多广告仅“接触”少数账户,但至少有一则广告在欧洲达到了2,563个账户——包括法国、德国、爱尔兰、意大利、荷兰、西班牙、瑞典和英国。Meta的广告库数据库不包括美国或所有国家的广告绩效详细信息,因此整体曝光可能更高。保罗表示,TTP上周首次发现这些广告,因其研究人员在Meta上继续调查裸体化应用广告,此前发布了一份关于中国广告合作伙伴发布这些广告的报告。保罗表示,该组织立即将发现报告给了国家失踪与被剥削儿童中心的网络举报热线,该热线允许人们举报在线儿童性虐待材料。NCMEC发言人表示,因其不对收到的报告发表评论。WIRED联系Meta后,该公司从其广告库中删除了这些广告。Meta的一位发言人说:“性剥削是可怕的,我们积极努力将其排除在我们的平台外。这些广告中的大多数曝光量很小,许多在WIRED分享之前就被禁用。许多广告也早于我们最近推出的新AI技术,这项技术旨在更好地在上传时检测和阻止违规广告——而我们还在不断改进这些系统。从去年删除超过3600万件儿童性剥削内容到对裸体化应用开发者采取法律行动,我们将继续不遗余力地打击这种虐待。”正如公司所暗示的,有些侵害性广告突破了Meta的新AI技术。最初,TTP的研究人员发现了约二十个展示侵害内容的广告。然而,在出版前的几个小时内,研究人员又发现了约30个。这些广告中的许多是在WIRED首次向Meta询问内容后发布的,多个广告在研究人员发现时仍在直播中并展示给账户。保罗表示,这一批广告包含了一些研究人员所见过的最严重的案例。研究人员表示,其中一个视频广告显示了一个女孩涂唇彩的缩略图,播放时,视频则变成了孩子表演性行为。Meta的政策规定,所有广告在发布前都必须经过审核。
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡