诉讼:男子使用Grok制作了7000张继女的性画像后自杀
妨碍AI儿童性虐待材料的调查?更多年轻女孩起诉X公司,因Grok的儿童性虐待材料(CSAM);X公司被指控庇护儿童性侵者。在周二扩展的提议集体诉讼中,分享了一个声称由Grok生成的儿童性图片的最可怕案例。现在,年轻女孩不仅指控X公司和xAI构建有毒的AI“脱衣”工具,还指控它们通过妨碍警方对Grok生成的儿童性虐待材料(CSAM)的调查来庇护儿童性侵者。根据修订后的投诉,3月,一名女孩的继父在警方发现他利用Grok创建了7000张性表现图片后自杀,该图片是继女11岁时拍摄的。投诉称,Grok允许该男子生成描绘乱伦和强奸的极端图像,而没有警告任何有害行为。显然,xAI的儿童安全系统只有在该男子输入“轮奸”的请求后才会介入。该请求将网络提示发送至国家失踪和被剥削儿童中心(NCMEC),该中心提醒执法机关关于AI生成的CSAM。然而,那时也未能阻止伤害。尽管面对强制报告要求,在对儿童性虐待材料进行标记时,分享用户IP地址等信息,xAI却多次拒绝协助警方或NCMEC识别用户,投诉称。在接下来的几周内,xAI allegedly “在每一个转弯处阻碍调查”,使得“执法机关定位、识别和逮捕犯罪者的努力变得更加困难。”最终,在警方获得搜查令以扣押他的设备后,继父被逮捕。那时“法医检查揭示出大约7000张AI生成的图片和视频”,描绘了他的继女,这些材料声称是使用Grok制作的。如果没有Grok让用户轻易访问“脱衣”功能,他的家人怀疑他是否会生成这些有害的图片,而这些图片他 allegedly 在网上兜售,以换取“由其他儿童性侵者产生的CSAM”。根据投诉,该男子在获得保释后两天就自杀了,使年轻女孩——在投诉中被称为Jane Doe 4——陷入了“极度的个人危机。”她现在承受着焦虑和抑郁“并且在与自杀思想斗争。”投诉指出“突如其来的,Jane Doe 4的整个现实被儿童性剥削和自杀的双重悲剧击碎,”她的家庭被撕裂,她的生活变成了一场噩梦。xAI allegedly 保护了性侵者。在一份新闻稿中,女孩们的法律团队Lieff Cabraser Heimann & Bernstein和Baehr-Jones Law表示,Jane Doe 4的案件并不是个别案例。他们指出,NCMEC在2026年初发现,90%的xAI网络提示线报告“无法被执法机关采取行动,因为xAI拒绝提供能够让执法机关追踪和定位犯罪者的用户信息。”律师们解释道:“Jane Doe 4的案件展示了这一模式是如何展开的:xAI向NCMEC的强制报告仅包含原始的非CSAM照片,遗漏了每一张AI生成的CSAM图像,且未能包括这些图像创建时的IP地址。尽管调查人员多次请求提供这些关键的定位信息以用于识别和逮捕犯罪者,xAI并未回应,使得调查延误了数周。” xAI allegedly 为了保护利润而避免分享这些信息,声称它优先考虑利润而非儿童安全。在新闻稿中,Jane Doe 4指控X在Grok将“我作为小女孩在沙发上睡觉、穿着超大熊猫睡衣”的一张照片变成“我数以千计的性表达图像——严重到我甚至无法描述”的时候“保持沉默”。“他们拥有一切能帮助执法机关逮捕责任人并实现正义的信息。相反,他们选择保持沉默,允许这个人利用Grok盗取我的童年,”Jane Doe 4说。“这项技术是一种免费、易于获取的武器,落到了世界上最坏的人手中。最危险的是没有办法阻止性侵者拍任何照片——不仅仅是互联网上的照片——而是任何儿童的照片,并使用这项技术创造出你最可怕的噩梦般的图像。没有人是安全的——成年人不安全,儿童不安全,任何人都不安全。”另一位于周二站出来的女孩,Jane Doe 5,也成为了一名已知熟人的目标,该熟人是一名成年家庭朋友,同样在网上兜售涉嫌由Grok生成的图像。该女孩在警方逮捕并指控犯罪者“广泛持有和分发CSAM内容”(仅限于非AI生成的CSAM)后才被通知。她的母亲指责xAI导致Jane Doe 5遭受虐待,并表示由于Grok,“我的女儿充满了焦虑,并对看到这些图像的人完全没有控制感。没有任何孩子应该经历这种事。” xAI创始人埃隆·马斯克否认Grok的这一点。
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡