美国青少年可以访问‘裸化’应用程序,尽管苹果和谷歌的家长控制措施,报告发现
2025年12月,摩根·多夫曼(Morgan Dorfman)收到了令人不安的消息:她女儿所在的宾夕法尼亚州高中的一名学生正在利用女儿的图片制作AI生成的色情材料。他使用了一款名为Movely的人工智能图像编辑应用程序,以女儿和另外五名女孩的照片制作性视频。多夫曼的女儿所经历的并非个例:美国各地的高中生报告了类似的案例。她们的同学正在使用所谓的“裸化应用程序”生成非自愿的色情或裸体图像。世界各国政府已开始禁止这些AI平台出现在应用商店,大多数美国州已通过法律将拥有AI生成的儿童性虐待材料定为犯罪。然而,尽管有禁止的法规,裸化应用程序仍在不断增多并对青少年开放,科技透明项目(TTP)在与《卫报》独家分享并于周一发布的一份报告中指出。TTP研究人员创建了四个测试账户,两个是苹果账户,两个是谷歌账户,表明账户持有者是13岁。他们使用“AI视频生成器”或“成人AI”等术语搜索图像编辑或换脸应用程序。使用这些伪装成13岁青少年的账户,研究人员成功下载了135款具有使人脱去衣物或将其面部替换到裸体身体上功能的应用程序。在他们的测试中,研究人员在AI生成的图像中为女性脱去了衣物,而不是使用真实女性的照片。在她女儿遭受痛苦时,多夫曼并不知道如此轻松就可以制作普通人的色情材料。“所有女孩都感到非常害怕和困惑,不知道接下来该怎么办,”多夫曼说。“我知道什么是深度伪造,但我以为它仅限于泰勒·斯威夫特(Taylor Swift)和人们使用名人的[图像],”多夫曼说。“我不知道可以使用你拥有的任何图片或任何截图做这些事情。”作为四个孩子的母亲,多夫曼花了几周时间试图弄清楚这个应用程序如何工作,并收集材料来教育其他父母。她下载了Movely,并立即被提示使用任何图像制作暗示性视频。根据多夫曼为父母准备的演示(《卫报》审查过),免费版宣传了一些性暗示的模板,包括“衣物爆炸”、“胸罩解开”和“内衣掉落”。在付费版本中,它变得更加露骨:她看到了根据班级同学所说,她女儿曾出现过的色情情境的模板。苹果和谷歌都禁止这些类型的应用程序在其平台上分发。两家公司还通常会对包含成人内容的应用程序进行年龄限制,限制或阻止未成年人访问。然而,TPP研究人员发现,这些公司在很大程度上依靠开发者来判断他们的应用程序是否适合某些年龄段。“调查中识别出的许多裸化应用程序被错误地标记为适合未成年人,这意味着即使启用家长控制,青少年用户也可以访问这些应用程序,”报告中指出。研究人员发现一款换脸应用程序,其广告中显示一名女性进行口交的图像,被评定为适合四岁及以上使用。该应用程序的免费版本提示用户将真实女性的面部叠加到穿内衣的女性模板上,或者如果用户付费,则叠加到色情状况的模板上。研究人员能够在没有提醒关联家长账户的情况下,从13岁账户中购买该应用程序的订阅。谷歌表示,公司定期采取“积极措施来检测和删除包含有害内容的应用程序”。“当我们发现或收到报告涉及的违规行为时,我们会展开调查并迅速采取行动,这包括暂停违规的应用程序并限制我们商店中相关的搜索词,”谷歌发言人丹·杰克逊(Dan Jackson)在一份声明中说。TTP在联系苹果以寻求对其研究结果的评论后,苹果实施了加强内容审核指南的变化。该公司现在要求开发者主动防止和删除任何非自愿的亲密图像,包括AI生成的图像。苹果还表示,发布前会审核每个应用程序,如果开发者错误地描述任何功能,公司将移除应用程序及其开发者。该公司表示,除了在TTP报告在他们面前分享之前已经移除的应用程序外,还“对报告中提到的其余应用程序采取了行动”。“该报告中的许多应用程序是主流的照片和视频编辑工具,具有合法、广泛使用的功能,并不具备裸化或深度伪造的能力,”苹果发言人亚当·德马(Adam Dema)说。“我们在App Store上禁止裸化应用程序,并移除在应用审查过程后添加类似功能的开发者。”
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡