在这张照片插图中，Grok网站通过放大镜在2026年2月12日的计算机屏幕上被看到。Grok是埃隆·马斯克的SpaceXAI（前称xAI）开发的人工智能聊天机器人。针对SpaceXAI和Stability AI提起的集体诉讼指控这些公司的人工智能工具被用于制作儿童性虐待材料。根据周二提交的修订诉状，新的原告中包括一名来自怀俄明州的原告和一名来自威斯康星州的原告，他们加入了今年早些时候由三名田纳西州青少年提起的诉讼。所有原告都被称为简·多。他们的诉状也扩展到包括Stability AI，即负责Stable Diffusion图像生成器的公司，作为被告。诉讼指控，包括一名原告的男性朋友和另一名原告的继父在内的施害者，利用公司的人工智能模型修改原告未成年时拍摄的照片，制作儿童性虐待材料（CSAM）。五名原告指控这些公司生产CSAM、从性交易中获利、疏忽、产品设计缺陷以及造成公共滋扰。“公共滋扰意味着这不仅仅是对我们的客户有问题……这对社会是个祸害，”代表五名原告的律师安妮卡·马丁说。“我们想要建立这些保护措施，以便我们不会对整整一代儿童造成这种伤害。”原告要求这些人工智能公司安装更有效的保护措施，以防止制作剥削和虐待的图像，同时寻求金钱赔偿。关于简·多4的案件尽管像其他互联网公司一样，SpaceXAI根据法律要求必须向非盈利机构全国失踪和被利用儿童中心（NCMEC）报告涉嫌的儿童性剥削，包括CSAM，诉讼却指控该公司未能充分做到这一点。SpaceXAI之前被称为xAI。公司在今年早些时候与马斯克的SpaceX合并后本月进行了品牌重塑。根据诉状，怀俄明州一名20多岁的女性简·多4的继父使用SpaceXAI的聊天机器人Grok，从一张拍摄于简·多4约11岁时的单一照片生成了大约7000张性露骨的图像和视频。这些人工智能生成的图像包括她裸体、在男人身上进行性行为的描绘，包括她的继父在内。有些图像还附带了明显的标题。根据诉状，SpaceXAI在2月只向NCMEC发送了一条关于简·多4的提示，当时继父要求模型生成一幅描绘这名女孩被多名男人强奸的图像。该公司在其报告中没有附上任何虐待图像，也未能与NCMEC和执法部门分享涉嫌施害者的IP地址，即使在官员多次要求后，根据诉状。许多电子服务提供商向NCMEC提交大量可疑活动的报告，但由于法律并不要求，往往不包括“足够或可操作的信息”，该中心在3月份的一份报告中写道。最终，当执法部门追踪并调查继父时，他们发现他与诉讼中提到的其他施害者一样，在网上与他人交易性露骨的图像。执法部门在搜查他的数字设备并以儿童剥削罪指控他后的两天，他自杀身亡。“简·多4进入了极端个人危机期，”诉状表示。“她不得不面对自己受虐待的创伤，同时还要协助母亲处理继父的去世……她的家庭被撕裂，她的生活变成了噩梦。”执法部门告诉简·多4，她的继父使用Grok是因为它对他的提示反应更好，而不是其他人工智能模型，代表原告的律师马丁说道。NCMEC拒绝对此案发表评论，并将NPR引导至执法部门。参与简·多4案件的怀俄明州刑事调查局，其儿童互联网犯罪特别工作组被列为涉及该案件的执法机构之一，未对此事作出回应。SpaceXAI未对此请求发表评论。能修改照片制作亲密图像和色情内容的应用程序存在于互联网的阴影中多年。但在2025年，随着主要人工智能公司进入这一领域，非自愿亲密图像的创建变得更加主流。