英国儿童报告发现，他们自己肖像的显性深度伪造图像激增，安全监管机构警告称，人工智能正在使得此类内容的生产变得更加容易。 "举报移除"服务阻止亲密图像出现在网上，表示数字操纵或“伪造”图像的案件迅速增加，涉及 AI 和裸体化工具。今年前六个月，该服务接到420个儿童举报，称看到自己的图像被伪造或操纵以显得性感。这个数量已经超过了2025年的总数397。互联网观察基金会(IWF)首席技术官丹·塞克斯顿表示，这些数字突显了在广泛可用且功能强大的 AI 工具时代，防止在线图像被操纵的困难。"如果有人能从互联网上获取一个孩子的无害图像，并用它制作儿童性虐待材料，那么除了阻止任何人给他们拍照或不在网上发布自己的照片之外，那个孩子无能为力，"他说。近年来，"举报移除"接到了如此多来自未成年人关于被操纵图像的举报，以至于在其在线提交表单中增加了一个复选框，让他们能够标记该材料为深度伪造。塞克斯顿表示，这些数字证实了一个担忧，即人工智能将不断提高能力并被用于操纵真实人类的图像。"这是我们首次看到使用 AI 图像生成器时担心的一个危害，它们会被用于制作包含真实儿童的儿童性虐待材料，"他说。"世界上每个人都处于风险之中，"塞克斯顿补充道。 互联网观察基金会(IWF)监控在线儿童性虐待材料(CSAM)的传播，表示在2025年和2026年向举报移除提交的被操纵图像大多数严重到达到了 CSAM 的门槛。人工智能生成的 CSAM 在英国是非法的，政府已将调整 AI 模型以创建虐待材料或将此类模型分发给他人视为非法。NSPCC的在线安全专家拉尼·戈文德尔表示，科技公司必须在其 AI 产品中加强安全保护，以防止显性材料的产生。"儿童因被制造出假冒或由 AI 生成的性图像而主动求助的现象令人担忧，但也可悲的是可预见的，"她说。"科技公司不能持续推出 AI 产品，而不嵌入可以防止这些材料在一开始就被创造的强有力保护措施。"塞克斯顿表示，一些向举报移除联系的受害者遭遇了性交敲诈，黑客威胁要发布材料，除非受到财务报酬或要求受害者提供更显性的图像。 "举报移除"是一个允许儿童匿名标记自己发送给前伴侣、性交敲诈者或可能在线出现的亲密图像或视频的服务。该服务将这些图像转化为“哈希”或数字指纹，并与主要技术平台分享，这些平台可以将该图像删除或防止其上传。 AI 驱动的深度伪造的出现引发了一系列关于在网上发布可识别儿童照片的警告。上个月，国家犯罪署和 IWF 鼓励父母和监护人避免将子女的照片公开展示在网上。他们建议将社交媒体帐户设为私密，或仅通过“亲密朋友”组分享儿童照片。这一指导还紧随网络犯罪分子试图通过抓取儿童照片进行敲诈学校的案例，这些照片被人工智能转换为儿童性虐待材料，然后威胁发布这些图像。学校已被敦促从他们的网站和社交媒体帐户上移除学生面孔的可识别照片。