诉讼指控特里·哈伍德（Terry Harwood）滥用 xAI 以绕过安全措施，制作包含未成年人的露骨深度伪造内容。埃隆·马斯克（Elon Musk）的 xAI 已对一名今年早些时候因性剥削未成年人被捕的南卡罗来纳州男子提起诉讼，指控他滥用该公司的 AI 工具来创建与儿童相关的性露骨内容。该诉讼于周二在德克萨斯州联邦法院提起，指控特里·哈伍德故意违反公司的服务条款来制作该材料。推荐故事一览：美国消费者物价在六月下降，能源成本暴跌；纽约对大型数据中心实施具有里程碑意义的一年禁令；我的推特，不是 X；美国与伊朗的升级将考验伊拉克的平衡行为。"[被告] 使用虚假身份开设多个 xAI 账户。尽管明确同意遵守 xAI 服务条款和可接受使用政策，但被告设计误导性的提示来绕过 Grok 的内置安全措施，然后滥用该工具将非性照片转换为性露骨图像，而不告知或征得照片主体的同意，"这份 12 页的投诉书中写道。诉讼声称，哈伍德上传了多张既非性暗示性质的成年人和未成年人的图像，然后试图创建所谓的“深度伪造”以性别化它们。"对被告的 xAI 账户的审查进一步显示，在相关期间内，被告多次向 Grok 提交提示，以改变这些图像以性别化图像主体，GroK 拒绝回应这些提示，理由是这些材料违反了 Grok 的内容审核守则，"投诉书补充道。"作为回应，被告反复提交进一步的提示，进行了修改，试图绕过 Grok 的审核工作。" xAI 还在寻求货币赔偿，尽管案件未具体说明金额，以及一项法院命令，永久禁止哈伍德使用该平台，该平台拥有超过 260 万用户。该诉讼是 AI 公司首次对其用户提起的诉讼，正值全球对 xAI 的密切关注，因为该平台允许用户创建此类内容。Grok 在华盛顿受到了关注，遭到欧洲监管者的审查，并在马来西亚和印尼受到针对可在该平台创建的性露骨内容的禁令。今年早些时候，马斯克针对关于 Grok 生成儿童性别化图像特别是裸体图像的指控进行了反击。"我[不知道] Grok 生成过任何裸体的未成年图像。字面上说没有，"马斯克在一月份的一条 X 帖子中说。xAI 的投诉书指出公司"通过账户暂停、账户终止和向国家失踪儿童与受虐儿童中心举报疑似儿童性虐待材料来执行其对违规者的规则。"投诉书指出，该平台已暂停了超过 52,000 个账户，并向该组织提交了超过 73,000 个投诉，仅在 2026 年就导致近 250 次逮捕。