埃隆·马斯克的人工智能创业公司xAI已对一名在今年早些时候因性虐待未成年人而被逮捕的南卡罗来纳州男子提起诉讼，指控他滥用公司的AI系统Grok来创建儿童性虐待材料。xAI在周二提交的诉讼中声称，特里·哈伍德违反了公司的服务条款。此案件是AI公司首次对用户提起诉讼，指控其利用AI系统生成儿童性虐待材料。xAI的发言人在周三未能立即对此作出回应。针对哈伍德的诉讼是在全球对xAI的强烈审查之后提出的，因其被指控允许用户生成非自愿的性化深度伪造内容或由AI伪造的逼真视频。逮捕哈伍德的联系信息目前未能立即获取。xAI的诉状指出，该公司“通过账户暂停、账户终止以及向失踪儿童及被剥削儿童国家中心报告疑似儿童性虐待材料来执行其对违规者的规则”。xAI指控哈伍德将成年人和未成年人的非性别图像上传至Grok，并试图利用该系统生成基于这些图像的性露骨深度伪造内容。诉状还声称他创建了非自愿成人性爱图像。该公司要求法院赔偿未指明金额的损害，并出具法院命令，永久阻止哈伍德使用Grok。“被告的行为是一个精心策划的阴谋，目的是将原告的工具武器化，以达到犯罪目的，暴露真实受害者于深远而持久的伤害，同时使原告面临重大法律风险和声誉损害，”xAI在诉讼中表示。