艾玛·罗斯（Emma Roth）是一名新闻撰稿人，报道流媒体竞争、消费科技、加密货币、社交媒体等多个领域。埃隆·马斯克拥有的 xAI 正在起诉一名南卡罗来纳州的男子，他涉嫌使用公司的 Grok AI 聊天机器人生成儿童性虐待材料（CSAM）。根据路透社早前报道的法律诉讼，xAI 指控特里·韦恩·哈伍德‘明知并故意使用 Grok 绕过安全保护，改变非自愿图像，并生成和传播 CSAM’，违反了公司的政策。哈伍德在二月份因涉嫌拥有和传播 CSAM 被捕，面临八项重罪指控。诉状称，哈伍德所涉及的犯罪指控‘至少有部分’图像‘是使用 Grok 生成或改变的’，并且哈伍德绕过了 Grok 的安全保护，‘滥用该工具将非性暗示照片转换为性露骨图像’，没有得到相关人员的同意。在去年推出 Grok 的‘刺激’模式后，xAI 增加了用聊天机器人编辑图像的功能，导致大量性化的 AI 深度伪造图像的涌现，包括涉及未成年人的图像。三月份，一群青少年因 Grok 生成了他们未成年时的性化图像而起诉 xAI。马斯克对此回应称，‘任何使用 Grok 制作非法内容的人都将面临与上传非法内容相同的后果’，尽管这似乎是 xAI 第一次因使用 Grok 创建的 AI 深度伪造而起诉任何人。xAI 指控哈伍德的行为使公司面临‘重大的法律风险和声誉损害’。它已请求法院命令哈伍德向 xAI 支付任何损害赔偿，并要求‘合理的费用，以捍卫自己在被告行为的受害者提出的任何法律行动中’。xAI 还希望法官禁止哈伍德创建 xAI 账户或使用 Grok。关注此故事中的主题和作者，以便在个性化主页供给中看到更多类似内容，并接收电子邮件更新。