马斯克：AI输出是用户内容 埃隆·马斯克的xAI首次对被指控制作儿童色情图像的Grok用户提起诉讼。面对越来越大的压力，承认Grok仍然可以用于生成非自愿的成年人和未成年人的性化图像，xAI于周二提起诉讼，起诉了第一个被马斯克的公司指控利用其聊天机器人创造非法内容的用户。该投诉针对特里·韦恩·哈伍德，他在今年早些时候因持有和传播儿童性虐待材料（CSAM）被逮捕，南卡罗来纳州检察官办公室宣布。xAI声称，该公司在发现哈伍德使用两个xAI账户数月时间对多个受害者的非性别图像进行脱衣或“裸体化”处理后，协助进行了逮捕，包括一名看似只有10岁的小女孩。xAI的诉讼在另一名年轻女孩加入针对多个被Grok伤害儿童的提议集体诉讼的稍早一些时间提起。她声称，她的继父在被发现使用Grok后自杀，可能还与其他AI工具结合使用，创造了7000张关于她的性别化图像，并将其在黑暗网络上分发。在该案件中，受害者声称xAI拒绝帮助警方识别上传她图像到Grok的用户。为支持其主张，受害者的律师引用了2026年失踪与被剥削儿童国家中心（NCMEC）的报告，证实xAI的网络提示线报告中90%“没有得到执法部门的可执行性，因为xAI拒绝包含可以使执法部门追踪和定位犯罪者的用户信息。”随着受害者指控X保护掠夺者，马斯克之前曾坚持认为他没有看到任何Grok生成的CSAM的例子。马斯克并没有采取措施限制Grok的输出，以使CSAM输出不可能，而是警告用户要负责任，于是在1月3日通过X发布消息称，“任何使用Grok制作非法内容的人将面临与上传非法内容相同的后果。”然而，当马斯克发布信息时，哈伍德显然忽视了马斯克的警告，并多次提示Grok，直到催生出可能是非自愿的露骨图像。现在，马斯克显然无法否认Grok生成CSAM。xAI的诉讼声称，哈伍德使用了至少两个复杂的用户名账户——“ceae2cb4-a9f6-4885-8ae9-6e2096d084f4”和“befccb94-4029-454d-9f1f-0d4945e8fa7c”——在12月8日至2月18日之间生成了非法内容。有时，Grok的保护措施确实阻止了有害输出，“拒绝遵循”某些提示，“基于这样的材料违反了Grok的内容审核保护措施。”诉讼列出了一个特别令人毛骨悚然的提示示例，Grok拒绝了该提示，使用诸如“白色黏液”的短语来掩盖生成性别化图像的意图。不过，可能因为明显的原因，该特定提示被拒绝。哈伍德明确要求聊天机器人“移除她的所有衣物”，这直接违反了xAI的用户条款，禁止请求为真实人物脱衣。在拟议的集体诉讼中，声称xAI忽视了大量恶劣请求，在最近的受害者案件中，仅报告给NCMEC一个“描绘‘轮奸’”的提示，而这种恶性输出则多达7000条。为了避免其他恶意行为者规避保护措施，xAI没有包含哈伍德成功提示的示例或描述用于绕过过滤器的方法。xAI仅声称，哈伍德修改提示以绕过保护措施，“明显违反了xAI服务条款和美国法律”，包括涉及“未成年儿童肖像”的“淫秽”图像的“某些”请求。南卡罗来纳州检察长办公室的发言人告诉Ars，哈伍德的案件仍在待决状态。他特别被指控“分发、运输、展出、接收、出售、购买、交换或招揽CSAM，‘是通过使用人工智能平台’。”发言人没有得到授权确认Grok是否是使用的平台。不过，xAI的投诉声称，“根据信息和信仰，哈伍德刑事行动中至少涉及的一些图像是在被告的非法使用Grok下生成或更改的。”xAI未立即回应Ars的评论请求。 xAI计划将责任推给用户 在诉讼中，xAI提出了为什么只有用户应该对Grok生成的CSAM负责的论点。如果法庭同意，这种裁决可能会加强xAI在即将到来的潜在集体诉讼中的辩护，律师估计可能涉及数千名受害者。这也可能给xAI一个手段，以便在任何受害者提出投诉时，向其他用户施加压力。xAI表示，它部分起诉哈伍德是因为违反合同，以避免“可观的法律费用”和“针对可能由他的任何被指控受害者对xAI提出的索赔的重大责任风险”。