在三月，Meta的监督委员会呼吁公司“履行其公共承诺并使用自己的工具”来帮助遏制平台上具有欺骗性的生成AI内容的传播。Meta在七月回应，通过推出内容密封——一种隐形水印技术，可以标记由公司新AI模型生成的图像。但这基本上是在公司发布其Muse图像和视频生成工具的公告中埋没的脚注。作为一个花很多时间审查AI标记系统的人，内容密封并没有让我充满信心。已经有更成熟的解决方案，比如C2PA内容凭证和Google的SynthID，Meta本可以在显著晚于推出自己的系统之前使用它们。在深入研究Meta为什么推出自己的系统后，我不被说服Meta对此进行了深思熟虑。根据Meta的描述，内容密封的工作原理与SynthID类似。水印对人眼是隐形的，提供了嵌入在AI生成图像中的“隐藏来源信号”，然后可以被检测工具扫描和标记，帮助在线用户区分深度伪造内容和真实内容。像SynthID一样，Meta还表示内容密封水印在图像被“裁剪、压缩、调整大小或截屏”后仍然完整，仍然可以被检测。那么，如果内容密封在功能上做了相同的事情…为什么不直接采用SynthID呢？Meta已经作为内容来源和真实性联盟(C2PA)的指导委员会成员，与Google一起推动独立的内容凭证标准，因此它已经展现出与他人合作解决日益严重的AI检测问题的意愿。SynthID也已经被OpenAI采用，因此显然Google也愿意为了提高透明度而向竞争AI提供商开放其技术。尽管与Google的系统有这些相似之处，但内容密封在当前状态下有几个限制。目前，用户只能通过Meta正在测试的专用网络工具检测内容密封水印，这意味着Meta没有像Google使用其Gemini那样将这些检测功能构建到其Meta AI聊天机器人中。不过，听起来这可能正在开发中。Meta发言人Faith Eischen告诉《The Verge》，公司正在“探索将检测功能更接近人们遇到AI生成内容的地方的方法”。考虑到这就是AI检测最需要的地方，而且已经有一段时间了，为什么在发布时不可用？水印本身也仅应用于由Meta AI应用程序和Meta.ai网站中的Muse生成的图像，这意味着在线用户无法使用它检测Meta的旧AI模型生成的内容。生成的视频目前也不支持，尽管Meta表示这“很快”就会到来。 这里是当Meta的检测工具成功标记出使用其自己的Muse模型制作或编辑的图像时显示的信息。图像：Jess Weatherbed / The Verge Meta对通过其检测工具检查内容密封的图像次数施加了每日限制。Eischen表示，这一速率限制旨在支持“正常使用”，同时保护检测系统免受滥用。Meta没有澄清这种滥用会是什么样子——推测是试图破解系统以避免标记内容被检测——但Google和OpenAI的检测工具也有类似的速率限制。C2PA作为唯一一个不限制用户检查内容次数的系统突出出来。任何检测上的限制都感觉与在规模上提高AI透明度的目标背道而驰，因此这感觉像是Meta的系统未能超越SynthID的一个错失机会。在Meta自己的平台如Facebook和Instagram上应用AI标签，Eischen表示使用了未指明的元数据“与内容密封水印一起”，以帮助用户识别AI生成的内容。当我问Meta是否在指示其他在线平台如TikTok和LinkedIn扫描和标记AI内容的方式来检测内容密封时，Eischen表示公司“决心与我们的行业同行合作，以确保用户有最佳的体验”。这似乎表明对这一标准的更广泛支持仍在进行中，这可能会阻止Muse生成的图像在Meta以外的平台上被有效标记。当我将使用Meta的Muse模型制作的测试图像输入Gemini和官方C2PA检测门户时，这两个工具都无法确认它是AI生成的。还有一个问题是，是否可以将内容密封应用于图像和视频文件，与SynthID和内容凭证一起，而不会干扰这些其他标准。Meta对此没有提供任何官方澄清。“像其他人一样，我们根据自己的技术规范和产品本地构建了内容密封。解决这个问题需要多个方法共同运作。