作者：蒂博·斯皮尔莱（Thibault Spirlet）您目前正在关注这位作者！想要取消关注吗？请通过您电子邮件中的链接取消订阅。和罗伯特·斯卡梅尔（Robert Scammell）您目前正在关注这位作者！想要取消关注吗？请通过您电子邮件中的链接取消订阅。Anthropic首席执行官达里奥·阿莫德（Dario Amodei）和OpenAI首席执行官山姆·阿尔特曼（Sam Altman）。Chris Ratcliffe/Bloomberg via Getty Images; Eric Lee/Bloomberg via Getty Images Anthropic为AI生成文本推出的新水印引起了一些Claude用户的关注——但是欧洲的法律是否要求它走到这一步？《商业内幕》对法律的审查，结合对AI和政策专家的采访，表明Anthropic的做法可能超出了欧盟的要求。根据欧盟第50 (2)条款，当技术用于标准编辑或没有实质性改变用户的原始文字或含义时，AI公司并不需要标记AI输出。Anthropic的水印旨在确保在文本被复制和粘贴时仍能被检测到，可以出现在翻译、摘要和更广泛编辑的文本中。里斯本理事会智囊团的高级研究员兼信息实验室的研究主任卡罗琳·德·科克（Caroline De Cock）告诉《商业内幕》，基本上，第50条呼吁使用手术刀来捕捉深度伪造和大规模合成生成，但Anthropic正在使用一把大锤子，影响简单的校对和翻译。Anthropic表示，它引入水印是为了遵守欧盟的AI法案，并且由于没有逐地区实施的方法，正在全球推广。虽然一些人欢迎AI水印带来的透明度，Anthropic的公告也引发了一波反对声。一些Claude用户表示他们取消了订阅，而开发者已经创建了新工具以去掉水印。一个反复出现的担忧是，水印可能会被解读为表示Claude写了该文本，即使只是用于编辑或校对。由于Anthropic水印背后的技术方法：它指导Claude的用词选择，以创建一个可检测的模式，表明聊天机器人很可能参与了文本的写作。Anthropic的发言人告诉《商业内幕》，更轻的编辑不太可能触发水印，因为“几乎没有（如果有的话）供水印附着的内容。”新款Claude模型将配备水印，旧款模型将在12月之前更新。塞缪尔·博伊文（Samuel Boivin）/NurPhoto via Getty Images 企业AI公司Deepset的联合创始人兼首席执行官米洛斯·鲁西克（Milos Rusic）告诉《商业内幕》，Anthropic“对欧盟法律采取了相对宽泛的解释”。这是因为即使Claude没有“起源于基础思想或文档”，也可能附带有“来源信号”，他说。那么，为什么Anthropic会选择这种做法呢？这与Anthropic作为一个安全优先的AI开发者的“品牌身份”相符合，德·科克说，并补充道，这也可能通过“将过滤和解释这些标签的负担完全转移到下游用户和外部平台上”来减少其监管风险。Anthropic的发言人告诉《商业内幕》，它将“继续评估不同的方法。” AI水印的潮流 欧盟的水印法律适用于2023年8月2日之后在欧洲发布的新模型。旧模型有一个宽限期，直到12月。这意味着在未来几个月，其他在欧洲运营的科技公司必须推出自己可机器阅读的方式来检测AI生成的内容。一些公司已经拥有它们。谷歌表示，它使用SynthID技术对其模型生成的文本、图像、音频和视频进行隐形水印。OpenAI将《商业内幕》指向一份FAQ，表示计划将标签扩展到文本，但没有具体日期。同时，Meta将《商业内幕》指向一篇关于其在识别AI生成内容上工作的七月博客文章。截至目前，Meta的重点仍然是图像，尚未提供关于文本水印计划的详细信息。xAI未对《商业内幕》的评论请求做出回应。该公司将某些作品标记为AI生成的，包括最近白宫新闻秘书卡罗琳·利维特（Karoline Leavitt）在X上的离职消息。该标签随后消失。即将到来的水印潮流正值许多公司鼓励员工使用AI的时刻。现在，一些人担心自己被揭露，自己的作品著作权受到质疑。“这些系统可以成为有用的证据，”鲁西克说水印，“但我会非常谨慎地将它们变成对著作权或不当行为的自动判断。”