
Anthropic的Claude将为AI生成的文本添加水印。这是如何工作的
Anthropic表示,它将开始对由其人工智能模型生成或处理的文本(包括Claude聊天机器人)进行数字水印,并在其他类型的文件中包含元数据,以便可以将其识别为AI内容。这一举措是Anthropic在欧盟AI法案下的承诺的一部分,欧盟AI法案包括在本月初生效的透明度规则,以确保用户知道他们是在与AI还是人类作品互动。Anthropic在其Claude支持网站上发布的一篇文章中表示:“随着AI生成内容的普及,关于内容来源的更大透明度和信号可以为人们提供有关其消费信息的有用背景。”Anthropic表示:“为了支持透明度并遵守我们的法律义务,Anthropic正在努力在Claude生成的内容中包含机器可读的标记。”Anthropic表示,在8月2日或之后推出的Claude模型(新欧盟规则生效的日期)将包含由Claude生成或处理的文本和文件的机器可读标记。该公司解释说,“不可察觉”的水印将通过后端编码融入文本本身。“由于水印是文本的一部分,因此在文本被复制和粘贴到其他地方时,它将随文本一起传播,并可能在一些编辑过程中持续存在,”Anthropic说。该公司表示,“水印将在模型级别应用,这意味着无论文本来自哪个Claude产品或表面,水印都将存在。”目前由Claude生成的JPG等文件将包含“签名的来源元数据”,显示该文件是由Claude创建和处理的,以及该文件是否被篡改。Anthropic表示,它正在研究检测机制,以帮助用户和第三方检测Claude的水印和来源元数据,并承诺将很快分享细节。该公司还在努力将水印功能添加到旧的Claude模型上。它警告说,水印或元数据的存在“并不能完全证明”内容是完全由AI生成的——只是说明它是经过Claude模型处理的。例如,原本由人类撰写的文本但输入到Claude进行校对、翻译或总结后,会在处理后附带水印。即使人类修改处理后的文本或将其与其他材料结合,水印也会持续存在。Anthropic还指出,“缺乏检测到的标记并不意味着内容不是AI生成或处理的。”例如,由Claude生成的图像可能通过格式转换被截屏或以其他方式去除其元数据。近几个月来,企业在承认用户担忧的同时,越来越多地采用AI透明度规则。Anthropic是截至本周超过200家公司之一,包括OpenAI、Meta、Google和Microsoft,它们签署了欧盟的AI透明度行为规范。欧盟透明度规则包括对AI生成或修改内容的批准标签,尽管公司也可以开发自己的标签。根据法律,AI模型需要包含水印或识别代码,否则将面临巨额罚款。周二,Spotify还宣布将明确标记AI生成的艺术家身份,并且不会将这些身份包含在个性化音乐推荐中。然而,音乐流媒体平台表示,是否通过使用AI积分披露歌曲的某些部分是否是由AI创作的,仍由艺术家自行决定,尽管Spotify确实明确验证人类艺术家。“通过AI积分,我们看到人们渴望利用机会进行透明,并分享他们如何在歌曲创作过程中使用AI,”Spotify在一份媒体发布中表示。“我们希望AI角色能够达到类似的自我披露水平。”上个月,OpenAI扩大了其现有的来源元数据,称为SynthID,适用于其AI工具(如ChatGPT)生成的图像,以覆盖AI生成的音频。该公司还托管其自己的验证工具,允许用户检查内容是否由OpenAI工具创建。加拿大的联邦AI战略包括将透明度作为建立对技术信任和保护加拿大人的首要任务。联邦政府已于9月23日前启动公众咨询,讨论如何制定自己的AI透明度规则,专家警告说,由于技术快速发展,迫切需要监管或立法的变更。© 2026 Global News,Corus Entertainment Inc.的一个部门
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡