作者：布伦特·D·格里菲斯。您当前正在关注此作者！想取消关注吗？请通过您邮件中的链接取消订阅。Anthropic的计划在技术界引发了一些分歧，因为它表示需要对其AI模型的输出进行水印处理，以符合欧盟的AI法规。Chris Ratcliffe/Bloomberg via Getty Images。科技分析师本·汤普森表示，要求AI公司对其模型生成的内容保持透明是落入误区。汤普森对欧盟AI法案进行了抨击，Anthropic引用该法案作为其将在Claude生成的文件和文本中添加水印的理由。在他广受欢迎的《Stratechery》新闻通讯中，汤普森表示，这样的AI透明度要求既繁重又不太可能足够强大。“我同情水印背后的动机：知道什么是假的、什么不是不是更好吗？”他写道。“但是，什么又算是‘假的’呢？如果一个大型语言模型（LLM）陈述了一个真实的事实，而一个人讲了一个寓言，后者没有水印，那重要吗？”Anthropic本周早些时候宣布的计划在技术社区引发了激烈争议。这家AI巨头表示，在8月2日之后推出的Claude模型将从一开始就支持水印功能，并正在努力为旧的AI模型添加此类支持。汤普森特别对Anthropic表示，即使仅用于校对，也会添加水印这个问题表示不满。欧盟的法规允许编辑例外，但汤普森表示，从技术上讲，Anthropic无法区分这种用途。“我很高兴我从未养成复制和粘贴校对的习惯（我使用LLMs进行校对，但在我的文本编辑器中手动进行每一个单独的更改），但对于任何想要修正语法的人来说，他们的原始内容被标记为AI似乎并不公平；翻译也同样令人沮丧，”他写道。OpenAI目前对图像和音频进行水印处理，并承诺将这一过程扩展到文本输出，尽管他们的计划的确切细节尚未发布。OpenAI使用谷歌DeepMind的SynthID对图像和音频进行水印处理。监管机构正在转向水印，这一传统上用于视觉媒体的概念，旨在帮助社会辨别内容是否为AI生成。与视觉水印不同，AI文本的来源标记肉眼无法察觉，但Anthropic和其他AI公司已承诺将发布工具，实质上充当AI检查器。根据欧盟法规，AI公司需确保“AI系统的输出以机读格式标记，并可检测到为人工生成或操控”。Anthropic、OpenAI、谷歌、Meta和微软均已签署相关的法规部分。值得注意的是，SpaceX尚未签署。透明度条款于8月2日生效。Anthropic并未表示只会在欧洲执行水印规定。其他公司是否将水印推广至全球用户尚待观察。总体而言，汤普森表示，水印不公平地将创意归功于AI，而这样的模型“（至少在目前）只是人类使用的工具”。“从这个角度来看，坚决要求水印与坚决要求圆珠笔自我宣传作为作者没有什么不同，这显然是荒谬的，”他写道。接下来阅读：布伦特·D·格里菲斯。您当前正在关注此作者！想取消关注吗？请通过您邮件中的链接取消订阅。布伦特·格里菲斯是《商业内幕》的高级报道员，主要报道AI和科技。此之前，他曾在《华盛顿邮报》担任“Power Up”和“Finance 202”的研究员。他在Politico开始了自己的职业生涯，担任网络制作团队成员，并报道突发新闻。自从作为学生记者报道总统竞选以来，他对政治报道的热情不断增长。他还为《美国政治年鉴》做出过贡献。AI Anthropic