其他人工智能公司也被要求为内容加水印。Cheng Xin/Getty Images Anthropic 已经透露了如何为 Claude AI 生成的文本加水印，以遵守欧盟的新人工智能透明度法规。该公司表示，其文本加水印不会有显而易见的视觉效果，不会被阅读文本的人辨别，也不会在文本中添加隐藏字符。相反，Anthropic 的方法是留下一个只有拥有密钥的人才能解码的文本模式。该公司解释说，大型语言模型在生成文本时一次选择一个单词，从一个潜在适合的单词列表中进行选择。它们随机选择单词，只要在生成的内容的上下文中有意义。在加水印的情况下，Claude 将使用一个密钥来决定选择哪个单词，而不是用任意的随机数生成器来选择下一个单词。在一个例子中，Anthropic使用圆周率的数字作为密钥。假设密钥从圆周率序列 3.1415926535 的数字 2 开始。下一个生成的单词是选择列表中的第六个，然后是第五个、第三个，然后再次是第五个。此方法是对 Google DeepMind 的 SynthID-Text 加水印的方法的改编，该团队在发表在《自然》杂志的论文中描述了这一方法。该公司表示，加水印不会影响 Claude 输出的质量或降低速度，也不会需要额外的 token 或使生成变得更昂贵。当然，人工智能生成的散文通常会有一些特征。例如，模型喜欢使用某些句子结构，比如“这不是 [X]，而是 [Y]”。但这些特征只能表明有人工智能参与了文本的写作，而不能指明使用的模型。Anthropic 将发布一个具有“密钥”来解码 Claude 的水印的 API，并能够判断其 AI 是否生成了正在检查的文本块。Anthropic 承认，其文本加水印方法确实存在局限性。它无法判断 Claude 是否真正写了文本或只是编辑了文本，这意味着如果你要求 AI 为你编辑某些内容，它也会被加水印。正如公司所解释的，它只能表明 Claude 可能与该文本在某个时间点有关。即使是翻译也会被加水印。如果 Claude 仅对文本进行校对和轻微编辑，或者如果文本太短，水印可能不够以至于无法检测。请注意，轻微编辑 Claude 生成的文本可能不会去除其水印。如果希望确保，需要完全重写。如果能够证明整个代码库是 AI 生成的，就可以进行复制和迭代，这引发了一些关于水印将如何影响代码的担忧，因为没有 significant 人工输入的情况下，它可能不可版权。然而，Anthropic 表示，代码的水印“通常少于其他一些文本形式”，因为它通常要求精确的输出。如果文本生成中没有选择，那么就无法应用水印。Anthropic 还将通过在其元数据中添加一个加密签名的注释，为图像加水印，该注释指示该图像是由 Claude 生成的。在其公告中，该公司表示，在发布时将对所有 Claude 的输出添加水印，因为它没有可靠的方法来按区域实施这些变更。这些变更将影响所有使用在 8 月 2 日后发布模型的 Claude 产品的输出。Anthropic 还将在接下来的几个月中为较旧的 Claude 模型添加水印能力。