Meta平台最近为一个AI色情生成工具投放广告，该工具似乎鼓励用户创建与女性美国政治家相似的深度伪造视频，尽管该公司有禁止包含性内容的广告政策。这是Meta在防止生产非自愿亲密影像的工具广告方面的一系列失败中的最新一例。这个名为Kromix的工具自称为“AI图像风格生成器”。 在《连线》查看的一则视频广告的配音中，该工具被宣传为“没有限制”，并称“所有角色都是现实中的人”，并将其描述为“男性实际使用的AI”。 在一则广告中，一名与一位知名女性美国政治家极为相似的女性在美国国旗和美国总统的旗帜前，伴随着“如果她动了呢？”的字幕。然后她眨眼，广告切换到一个与她面貌相同的女性在色情视频中表演的场景。Kromix应用在《连线》请求评论前曾在苹果的App Store中托管，邀请付费用户上传照片，以便将其用于“卧室强奸”和“迪士尼爱情”等场景。该应用中的视频还展示了穿着蜘蛛侠服装的女性的AI生成色情视频。发送至应用中列出的联系人的评论请求未得到回复。苹果一直在努力将违反其非自愿亲密影像、脱衣和性暗示内容政策的类似工具排除在App Store之外。今年夏天，旧金山市检察官向公司发出停止并停止信，要求移除13个特定应用，并停止“帮助和教唆”销售淫秽深度伪造图像。根据Meta的广告库，这些广告专门针对男性用户，标语为“释放下一代AI魔法”，并在《连线》询问后被移除。总的来说，与该广告系列相关的账户发布了32则广告，持续时间在5到46小时之间。大多数广告的印象数少于10次。科技透明项目的主任凯蒂·保罗表示：“我们迄今为止看到的与脱衣问题相关的所有广告都在广泛地性别化和脱衣，并将女性置于AI生成的色情中。这引发了许多关于Meta如何处理这种内容的问题，不仅是广泛层面上的，而是特别针对女性政治家时，因为该公司正在其平台上主动投放包含这些内容的广告。”政治家和当选官员，绝大多数为女性，多年来一直是非自愿深度伪造图像和视频的目标。今年1月，随着Grok被用来创建约300万张女性和女孩的性别化图像，瑞典、英格兰和北爱尔兰的官员成为使用该技术的人的攻击目标，通常使用官方图像作为起点。美国阳光项目的首席研究员本杰明·舒尔茨表示：“随着AI生成内容的生产和分发变得民主化，以前无害的媒体——官方肖像、发布会的视频——已成为任何有互联网连接的人都可以使用的低代码和无代码工具的原材料。”根据公司的公开文档，在Meta的平台上发布广告之前，包括Instagram和Facebook，在发布每则广告之前，都会“审核”其内容，以确保其符合广告政策。该公司的广告标准指出，“我们的广告审核系统主要依赖自动化工具来检查广告和商业资产与我们的政策是否相符”，并指出审核在广告开始投放前就已开始。运行广告的页面于8月3日创建，广告开始投放不久，且没有粉丝，这两点可能对Meta表明该账户是可疑的。该公司特别有一项政策，广告不得包含性影像——包括裸体、性行为或性暗示内容。Meta关于成人性剥削的更广泛政策规定，非自愿亲密影像是禁止的，且不允许推广“脱衣”或“AI亲吻”应用。然而，在过去几年中，Meta的平台上频繁出现与脱衣或脱衣应用相关的广告，研究人员发现了数千则该公司未能检测到的广告。而根据该公司自己的数据，从去年11月到1月，它还移除了344,000则在Facebook和Instagram上推销这些服务的广告，并已对至少一家推广脱衣服务的公司提起诉讼。“性剥削，包括推广脱衣应用，是可怕的，我们在积极努力抵制它，” Meta女性安全负责人辛迪·索思沃斯表示。“这是一个高度对抗的领域，不良行为者的策略不断演变，这就是为什么我们不断强化……