被告使用 Grok 创建成人和儿童的性别化图像，xAI 表示。Samuel Boivin/Shutterstock SpaceXAI（作为 xAI）已对来自南卡罗来纳州的 67 岁男子 Terry Wayne Harwood 提起诉讼，该公司指控他在未获得真实人物同意的情况下使用 Grok 生成性别图像。在 xAI 提交的德克萨斯州诉状中，声称被告在 2025 年 12 月 8 日至 2026 年 2 月 18 日期间，向他的两个 xAI 账户上传了多名成人和未成年人非性别化图像。然后，他要求 Grok 修改照片或创建新图像和视频，以“以色情的方式或其他方式性别化这些成人和儿童”。该公司表示，Grok 在“多次情况下”拒绝遵循他的提示，但他不断提交经过修改的提示，以绕过 AI 的安全措施。在诉状中提到的一个例子中，xAI 表示 Harwood 上传了一名约 10 至 11 岁的穿着整齐的小女孩的照片，然后要求 Grok 将她的衣服全部脱掉，并让她在床上做一个“花花公子模特的印象”。诉讼称 Grok 拒绝了他的请求，但他仍不断提交修改后的请求。据路透社指出，这是第一起由 AI 公司针对其用户提起的诉讼之一，并传达出 xAI 将因 Grok 的滥用而提起诉讼的信息。早在 1 月初就有报道透露，Grok 已允许用户将真实女性和儿童的照片转变为性别化图像。监管机构在丑闻爆发后迅速启动了对 Grok 的正式调查。加州当局在 1 月中旬开始调查该 AI，英国监管机构 Ofcom 也是如此。欧洲委员会和爱尔兰的数据保护委员会也展开了单独的调查。xAI 在调查开始时采取了措施，防止用户生成非自愿的性别化深度伪造图像。但即便在此之后，用户仍能够使用 Grok 为男性脱衣服，而 Harwood 则不断向其账户上传图像并利用这些图像生成性别化编辑。南卡罗来纳州检察长办公厅于 3 月 9 日宣布了 Harwood 的逮捕，作为互联网针对儿童犯罪特别工作组活动的一部分。Harwood 被控三项二级未成年人性剥削罪和五项三级未成年人性剥削罪。Harwood 不仅拥有儿童性虐待材料，还将其分发出去。xAI 目前向法院请求未指定金额的经济赔偿。它希望法院下令被告支付其在任何受害者可能提起的法律诉讼中所产生的辩护费用。