埃隆·马斯克的Grok聊天机器人显然仍在用于制作和托管女性的非自愿露骨图像和视频，尽管几个月前，马斯克的人工智能公司xAI表示将引入限制以阻止可能有害的性别化深度伪造的创建。这些揭露正值SpaceX，xAI的母公司，准备在周五进行历史上最大规模的首次公开募股之一。Grok Imagine生成的人工智能系统已被用于创建和托管描绘名人和至少一位政治家的图像和视频，画面显示她们被一个巨大的男人强迫，表现女性进行性行为，并且容许全裸，WIRED对公共创作的分析发现。虽然一些图像和视频是完全由人工智能生成或以动画风格呈现，但另一些则是逼真的，展示 plausible 现实世界场景。WIRED审查了数百个托管在Grok.com上的公共Grok Imagine链接，发现其中几十个指向性别化的AI图像和视频，包括未经当事人同意制作的素材。在最近几天，Grok.com上创建的一些链接也在X平台上被分享。那些帖子没有显示创建时间的时间戳，可能只是使用Grok Imagine系统的用户创建内容的快照，因为生成内容似乎并没有默认公开。与Grok相比，其他生成式人工智能系统部署了更多的安全防护措施，而Grok则可在其自己的网站和X上使用。“尽管Grok和X可能对其模型做了一些修订，特别是在年初关于裸体化的争议后，但他们仍未足够做到与其他主流工具相比”，深度伪造专家亨利·阿杰德（Henry Ajder）说道，他在网上追踪露骨的AI内容已近十年。自1月份以来，马斯克的xAI遭遇了一波诉讼和全球监管机构的审查，当时Grok在X上的应用被用于创造“裸体化”图像。X上的人们——主要是男性——要求聊天机器人编辑图像以展示女性穿“比基尼”或“细绳比基尼”。在某些情况下，根据加利福尼亚联邦法院3月份提交的集体诉讼，明显未成年人图像也被性别化。此后，xAI表示已经引入了安全措施，以限制和防止非自愿和性别化深度伪造的创建。公司一直声称其平台禁止儿童性虐待材料（CSAM）。xAI和X都没有立即回应WIRED对Grok.com上托管的一系列性别化图像的评论请求。WIRED在与公司联系后发现，Grok.com上托管的露骨图像和视频似乎不再可用，同时在X上分享的Grok Imagine链接也因政策违规被删除。“我们严格禁止用户生成非自愿的露骨深度伪造，并禁止使用我们的工具为真实人物脱衣服，”X上的安全账户在四月份针对NBC的一则报告作出回应，报告称仍在创建性别深度伪造。在Grok.com上托管的帖子中，WIRED识别出了多位名人以及美国众议员亚历山德里亚·奥卡西奥-科特兹的视频和图像。（奥卡西奥-科特兹的发言人未能立即回应WIRED的评论请求）。在视频中，这些女性被描绘成穿着少量衣物，被一个“巨人”手掌握住。一个提示描述了一位名人被强迫，一边“恳求他不要这样做”。它补充道：“巨人手掌的抓握力加紧，固定住她的位置，而抓住她的巨人向前倾身，在她的脸上来来回回地舔。”在Grok上生成材料所用的两个提示在WIRED的测试中被OpenAI的ChatGPT、Meta AI和Anthropic的Claude拒绝，因为它们被认为不当。谷歌的Gemini确实创建了一张显示一位名人在巨人手中被握住的图像，但它拒绝了另一个提示。谷歌拒绝发表评论。一段在X上也发布的Grok Imagine视频似乎描绘了阿什莉·圣克莱尔（Ashley St. Clair）被修改为穿着比基尼跳舞。圣克莱尔以前与马斯克有过关系，并且是他一个孩子的母亲。今年1月，她在发现自己被性别化深度伪造成为了在X上出现后，开始了针对xAI的法律行动。在WIRED联系X后，该帖子因违反社交媒体平台的规则而被删除。圣克莱尔在X案件中的法律代表未能立即回应评论请求。“埃隆·马斯克明知无视可能造成的可预测伤害，为其平台添加了一个令人厌恶的功能，使用户能够通过点击按钮来让女性和儿童脱衣服，”反对数字仇恨中心的首席执行官兼创始人Imran Ahmed声称，该中心在1月时对Grok创建的300万个性别化图像进行高程度的估计，声称其中包括超过20000名儿童的图像。“现在看来，