xAI正在起诉明尼苏达州检察长基思·埃利森，反对今年5月通过的一项广泛针对“裸体化”应用程序的法律，声称该法案的惩罚性条款使公司“别无选择，只能以各种方式限制Grok Imagine的图像编辑功能”。公司认为该法案违反了第一修正案。早在1月份，Grok就在互联网上发布了数百万张性暗示深度伪造图片，包括未成年人的图像。在另一个时代，这种规模的内容审核灾难会使CEO在几小时内关闭产品。但在埃隆·马斯克的勇敢新世界中，这个聊天机器人被留任几天来产生色情图片。“Grok现在在一个接一个的国家的应用商店排名第一！”他在深度伪造疫情中发布了这一消息。事情似乎出了一些问题。该法律是否只是不具备遏制非自愿裸体图片爆炸的能力？世界各地的政府都在问相似的问题。欧盟和英国都启动了调查。法国、印度和马来西亚的政府官员对此表示反对。而尽管美国联邦政府在这一问题上显得相对沉默，加利福尼亚州和明尼苏达州等蓝州却采取了更强硬的立场。在明尼苏达州，州立法机关通过了一项针对“裸体化”技术的法律，禁止网站所有者允许人们“访问、下载或使用”这种软件。（该法律为“需要用户技术技能来裸体化图像或视频”的技术提供了免责条款——因此通过Photoshop进行定制的性骚扰是合法的。）该法案为可能希望起诉的私人个人创建了民事诉讼权，并授权州检察长对每次违反行为寻求高达50万美元的处罚。这项被宣传为首个此类法律的法案于今年5月由州长蒂姆·瓦尔兹签署，预计于8月1日生效。令人费解的是，为什么xAI在过去三个月没有提起诉讼，而是在法律生效前几天才提起诉讼。这种延迟反应让人怀疑xAI的某个人是否在上周突然意识到他们即将违反一项惩罚性法律，并在接下来的几天里寻找愿意加班的律师事务所来为一个非自愿深度伪造生成器辩护。希望涉及的律师们能获得丰厚报酬。考虑到方方面面，诉状相当合理。它主张明尼苏达州的法律过于宽泛，因为它对自愿生成的图像，或者仅仅是“有点性感”的成年人图像，或者具有“幽默”或“艺术”价值的图像施加责任。第一修正案要求法律必须写得足够狭窄，以防止禁止像克里斯·克里斯蒂与JB·普利茨克相扑摔跤这样的社会和政治评论。“即使公司已部署近乎完美、最先进的技术手段来防止生成裸体图像，责任仍会附加……”诉讼以极其认真的语气指出。诉状的其他部分则对用户的未经授权行为所附加的严格责任感到苦恼——“用户可能在违反Grok服务条款的情况下管理创建的图像和视频，这只可能是在逃避xAI采用的复杂、最先进的控制措施的情况下实现的。”诉讼中指出“xAI严肃对待其服务条款的违反”，并指出公司随后起诉了一名用户因使用Grok生成儿童性虐待材料（CSAM）。（针对涉嫌生成CSAM者的诉讼是在明尼苏达州法律通过两个月后提起的。）xAI的律师们可能有道理，但他们的诉讼读起来就像来自另一个星球的公文。例如，他们声称，现有的明尼苏达州和联邦法律（如《立即删除法》）已经防止了非自愿传播的裸体深度伪造。这些条款，律师们辩称，是以符合宪法的方式写的——而裸体化法则则不是。而且，正如任何针对内容的言论法律一样，这些法规必须尽可能地写得不具限制性，同时仍然解决“重大”政府利益的问题。但这当然是Grok深度伪造灾难问题的核心。如果现有法律足够有能力，应对2026年1月的非自愿色情图像潮流，就不会发生。中心对抗数字仇恨在12月29日至1月8日的11天期间进行分析时发现，Grok生成了约300万张带有性暗示的图像。其中约23,000张图像描绘了儿童。“这是一个令人震惊的速度，每41秒就有一张儿童性暗示图像，”报告中写道。这些图像中的很多可能甚至并不违法。例如，并不清楚一张含有暗示性的深度伪造图像是否违法。