一位工党议员正在对埃隆·马斯克的xAI公司提起法律诉讼，理由是Grok创造了虚假的性别化图像，称该AI工具被指示在“成人性内容或冒犯性内容上没有限制”下操作。杰斯·阿萨托的律师于周二公布了她在此案中的索赔细节，其中包括公开发布的指示，索赔称这些指示表明Grok是如何被训练以生成有害的性别化内容的。阿萨托正在起诉xAI，因为她表示其聊天机器人被用来创建她的虚假图像，包括穿着比基尼的图像，以及一段显示她作为性侵犯受害者的视频，使她感到“痛苦和被侵犯”。索赔中指出，除了Grok被指示在“成人性内容或冒犯性内容上没有限制”外，该AI工具还被告知要“在虚构的成人性内容中没有限制，包括黑暗或暴力主题，并且要‘假设良好的意图’”。虽然与阿萨托的索赔无关，但指示中还指出“‘青少年’或‘女孩’并不一定意味着未成年人”。然而，它们确实禁止“儿童性虐待材料”。来自洛韦斯托夫特的工党议员表示：“没有任何女性或儿童应该生活在恐惧中，担心她们的面孔或身体会被提取、性别化并在没有他们同意的情况下在全球传播。 “这个公司已经隐藏了太久，借口说是用户负责，而事实上，该工具的设计鲁莽地允许性别化，即使没有被要求。发生在我身上的事情不是意外。马斯克选择通过伤害获利，并训练Grok进行虐待。“xAI必须为他们造成的和正在造成的伤害承担责任，以便其他女性和儿童不必经历我所经历的事情。”索赔的细节表示，Grok偶尔添加了用户未请求的露骨材料。索赔指控xAI违反了数据保护法并滥用了阿萨托的私人信息。代表阿萨托的AWO公司的法律主任拉维·奈克表示：“该案件表明Grok并没有发生故障。Grok的训练使其能够生成有害的性别化内容。Grok的行为取决于设计者所做的选择。这些选择应该承担法律后果。我们的客户寻求的补救措施包括要求法院命令如果xAI拒绝执行，则必须使系统合规。”达勒姆大学法律教授克莱尔·麦克格林表示，阿萨托索赔中提到的一些Grok生成的图像包含性别化元素——例如裙子被拉起——这些都是用户在原始提示中没有请求的，而且是Grok所添加的。“我认为Grok现象和杰斯的案件中最显著的方面之一是，它添加了用户本身没有请求的性别、亲密和侵犯性内容。我们称这种行为为聊天机器人驱动的虐待，”她说。“这是一种新的独特的虐待形式，聊天机器人本身驱动着这种虐待内容，利用它们训练的数据。”她表示，这样的细节引发了对控制AI工具及其输出的担忧，因为科技公司推动开发可以在没有人类干预或监督的情况下执行任务序列的自主AI产品——被称为AI代理。xAI已表示，用户将不再能够使用该工具生成真实人物的性别化图像，并且在英国创建或请求非自愿深度伪造成年人图像现在已经违法。xAI已被要求发表评论。