这两张照片最初是典型的青少年自拍：看着镜子，衣着整齐。但一旦网络掠夺者获得这些照片并通过AI成像工具处理，它们就成为了极端色情视频的基础。这些例子来自“报告删除”服务，该服务允许未成年人在未经同意的情况下，发现自己显露私密部位的照片后，可以机密举报并请求封锁或删除这些图像。由于AI的突破和广泛可用的AI模型及裸体化应用，一些18岁以下的青少年成为了受害者，甚至没有与犯罪分子接触。这两个受害者展示了为什么英国国家犯罪局（NCA）和儿童安全监管机构互联网监察基金会（IWF）发布指导，告诫家长考虑限制家庭照片的可见性，例如将社交媒体资料设为私密，仅在“密友”群组分享孩子的照片。两个组织都表示，他们并不是告诉家长该怎么做，而是希望他们意识到这个问题以及应采取的行动。数据显示，AI正成为儿童性虐待内容的日益来源。根据IWF的数据，去年发现的AI生成儿童性虐待材料（CSAM）数量增加了14%，2025年识别出的真实CSAM的AI制作图像和视频达8029个。互联网监察基金会的丹·赛克斯顿（Dan Sexton）表示，他觉得告诉家长不要发布孩子的照片是令人不安的，但他觉得没有其他选择。他说，针对这种技术的保护措施不够。英国政府正在采取限制措施，例如禁止持有、创建或分发旨在生成儿童性虐待材料的AI工具。它还赋予科技公司和儿童保护机构测试人工智能工具是否能够生成儿童虐待图像的权力。赛克斯顿承认，长期解决方案不能简单地禁止在公共社交媒体账户上发布照片。他希望立法要求AI模型“设计上安全”，这是网络安全活动者提出的原则，他们希望社交媒体平台以用户福祉为核心目标负责任地构建。“人们使用‘安全设计’这个术语，但我在这里没有看到，”他说。科学、创新和技术部已被要求发表评论。赛克斯顿表示，恋童癖者正在结合使用各种AI工具创建图像和视频，包括可以免费下载和调整的“开源”AI模型。IWF表示，目前已证明很难区分真实的儿童性虐待照片和AI生成的材料。这类内容在英国也是非法的，但这意味着当局可能难以区分处于真实危险中的受害者和深度伪造图像。根据赛克斯顿的说法，IWF分析师仍然可以通过AI视频与现实区分，但通常唯一确定的方法是看恋童癖者是否在暗网上对特定图像声明负责。“我们知道的唯一方法是当我们看到创作者指出他们创作的内容时，”他说，并补充说，分辨AI与现实之间的差异可能是一个持续的斗争。“这是一个需要解决的问题。但我不知道这是否能解决到我们需要的准确程度，因为技术不断变化，”他说。NCA的儿童性虐待教育经理洛娜·辛克莱尔（Lorna Sinclair）表示，该机构的新指南旨在提醒许多家长和看护人员尚不知晓的危险。犯罪分子迅速抓住技术变革所带来的便利，表现出一种熟悉的特征。“作为一个社会，我们仍在学习AI以及它在日常生活中的使用，”她说。“我们正在学习其好处，同时也在学习这种技术可能被滥用的方式。现实是，犯罪分子将始终是技术进步的早期采用者。”