跳到内容 “可怕的”xAI被指控在真实和人工智能生成的儿童色情内容上训练Grok。xAI目前被指控使用儿童性虐待材料（CSAM）训练Grok，因为监管机构和法院继续调查问题的严重程度，并且一些Grok用户已被逮捕。在周三提交的投诉中，名为简·多（Jane Doe）的原告解释说，2000年代初她还是学龄前儿童时，成年男性多次强奸她，制作CSAM以在线出售给恋童癖者。此后，多的图像已被像国家失踪和被剥削儿童中心（NCMEC）和加拿大儿童保护中心（CCCP）这样的组织进行哈希处理。为了安全起见，多选择接收美国司法部受害者通知系统的警报，只要她可能在新的刑事调查中成为受害者。尽管她已经收到了无数的警报，但当CCCP通知她在xAI上发现了描绘她的AI生成CSAM时，她感到震惊。这使多再度受到创伤，她的投诉中声称，在在线论坛中发现了消息，“罪犯们讨论如何创建关于原告及其他相似背景已知的、传统的CSAM受害者的AI生成CSAM。”现在，多担心xAI不仅使她一生中最痛苦的时光的暴力图像更容易被制作，而且xAI还存储了Grok生成的图像，并利用这些输出进一步训练Grok。因此，她相信Grok不仅在困扰她超过20年的原始图像上进行了训练，还在较新的AI生成图像上进行了训练。这是第一次指控xAI在CSAM上进行训练的案件，投诉并没有详细说明这一指控。之前，Ars报道了一份有争议的数据集，该数据集在研究人员发现训练数据中存在CSAM后被清理，但没有迹象表明xAI在该数据上进行了训练。在代表多的律师发布的新闻稿中，解释称多的图像被包含在NCMEC维护的CSAM哈希列表中，而“相同的材料”据称是“xAI用来建立Grok图像和视频生成能力的数据集的一部分。”投诉同样仅声称“关于原告的CSAM及其长期以来广为人知的哈希值被用作xAI使用的数据集的一部分。”然而，有关Grok在AI CSAM上进行训练的指控则分享了更多的细节。“因为Grok的条款将公共X帖子和Grok自己的输出默认视为训练数据，公开发布一幅图像不仅使其暴露在观众面前，还直接将其输入到xAI用于训练和改进其模型的管道中，从而生成更多图像，”多的投诉中称。诉讼进一步指出，尽管xAI在Grok输出中过滤掉暴力内容，以将其排除在训练数据之外，但xAI的条款显然没有具体说明CSAM、非自愿亲密影像（NCII）或NSFW材料是否属于“排除类别”。因此，似乎可以推测，“因为从已经训练的模型中完全移除训练示例的影响在技术上是困难的，而xAI并没有公开声称自己已经这样做，任何在下架前被纳入训练的CSAM可能持续影响模型的输出，即使原始图像已从公共视野中删除，”多的投诉中称。 毁灭所有Grok CSAM，多表示 在她提出的集体诉讼中，多希望终止Grok带来的有害输出。如果获得批准，该集体将代表每个其童年图像被用于生成Grok CSAM的受害者。诉讼指控X违反联邦儿童色情法律，以及Masha法，这两部法律都赋予CSAM幸存者就制作、持有和分发提出诉讼的权利。多的律师Margaret E. Mabie在新闻稿中表示，三者都是犯罪，而“xAI做了所有三者。”如果多获胜，xAI可能需要向每个能够证明Grok根据其真实照片生成CSAM的受害者支付损害赔偿金。多还要求法院命令xAI销毁其可能存储的所有Grok生成的CSAM，并用于训练Grok模型。此外，她希望xAI阻止Grok生成任何CSAM，她的投诉暗示这将需要阻止Grok生成任何性暗示的输出，包括NCII和NSFW的“比基尼照片”，这是马斯克推崇的。多的律师Sarah London在新闻稿中表示，多“已经生活近二十年，知道她遭受的最糟糕事情的图像在网络上流传于捕食者之间，并可能随时重新出现。xAI必须为故意在她所遭受的可怕虐待图像上训练模型承担责任，以及在这个集体中的每一个其他幸存者的虐待图像上。”X没有回应Ars的置评请求。Ashley是Ars Technica的资深政策记者，专注于追踪新政策和新技术对社会的影响。