Adrienne Bresnahan/Moment/Getty Images 关注 ZDNET：将我们添加为 Google 上的首选来源。 ZDNET 关键要点 Claude 内容上的新水印让一些人感到不满。反应揭示了公司的优先事项以及人们对 AI 工具的过度依赖。 要避免可能的水印，请自己写（抱歉！）。上周，Anthropic 宣布将开始通过 Claude 对其多个 LLM 的文本输出进行水印，以遵守欧盟 AI 法案第 50 条，该条款要求参与的 AI 公司提供 AI 生成内容的透明度工具。公众对水印的愤怒迅速增加，正如如今 GitHub 上充斥着许多去水印工具。 对于那些不喜欢这个消息的人，解决方案看起来显而易见：找出一个方法以避免在 Claude 中带上水印。但，就像现在应用商店里充斥着的许多人性化写作插件一样，转向另一个修复方案可能不会让我们有所成就。对我们期望 AI 工具的更大视角的调整——以及内容来源的重要性——可能会有所帮助。 水印是如何工作的 在最初没有详细说明水印如何工作以及谁能阅读它们后，Anthropic 在周五发布了新指引，澄清水印将根据特定的单词选择附加到文本上。LLM 生成每次一个单词，基于前一个单词的概率选择。在解释中，Anthropic 指出，在关于天气的句子中，“阴天”或“灰色”等同义词实际上是意味着相同的。Anthropic 解释说，这些“低风险”的单词选择在生成的文本中留下了一个模式，读者无法检测到，但那些拥有密钥的人是可以识别的。水印轻微改变了这种随机单词选择过程。 另外："不再需要专家"：如何在今天的 AI 代理工作场所保持价值 Anthropic 解释称：“不再使用一个任意的随机数生成器来选择下一个单词，水印使用密钥和几个前面的单词来确定模型应选择哪个单词。Claude 所选择的单词仍然是随机的，但现在，可以检查单词的序列，看看它是否与 Claude 在使用密钥时会做出的选择一致。如果一致，可以为该文本分配一个是由 Claude 生成的概率。 解析愤怒 一位技术专家对这种方法特别感到沮丧。在最近的一篇博客文章中，Markdown 标记语言的共同创作者 John Gruber 不同意这些单词选择是“低风险”的，并认为水印密钥不会“破坏 Claude 输出的语义”。他并不是唯一一个有这种担忧的人。“我们在写作时选择的确切单词很重要，”Gruber 写道。“我希望我使用的任何 LLM 在每一个决策点都选择最好的、最精确的单词。” 另外：如何识别 AI 图像：6 个明显的假迹象——以及我常用的免费检测工具 作为一名作家和编辑，我同意确切的单词很重要。但 Claude 是“最好的、最精确的单词”的仲裁者吗？这本质上是主观的，但我不认为金标准应该是一个经过训练并常用于人类语言平均水平的 LLM。这里的解决方案难道不是自己做出那些精确的单词选择，而不是将其交给一个超出你控制范围的产品吗？ 考虑到我选择以写作为生，我理解告诉一个写作十分痛苦的人“简单地解决它”是多么无用。这是一个不完美的比较，但 AI 可以被视为非作家的一种写作工具，就像 Google 表格是非分析师的（初步）数据工具。将写作外包给 AI 工具对我而言并不能满足我的需求，但我中立地表达这一点；我不认为 AI 的使用（或缺乏使用）是关于道德优越性。这是一个死胡同的争论，分散了我们需要讨论的更大议题。 Gruber 博客的标题——“Anthropic 的‘水印’文本劣化在 Claude 中是对写作的歪曲”——假设了几个观点，所有这些观点都值得更仔细地审视：Claude 的文本生成可以被视为“写作”（这是一个长期以来的争论）；“歪曲”存在于水印中，而不是将写作（一个过程，而不仅仅是一个可交付成果）外包给机器；以及水印——而不是预训练、模型更新或变化或安全标准的变化——是偏向 Claude 生成内容的首要因素。 但是，Gruber 的这一句话让我最为触动：“认为任何我以外的需求应该影响为我生成文本的想法是显而易见地令人反感的。” Claude 是，并且一直是，由一家科技公司拥有的产品；它从未仅仅为用户而优化。AI 作为我们现在所知道的面向消费者的工具可能是前所未有的，但在资本主义（以及日益增加的全球政策）下，科技公司作为科技公司的存在并不是。我们应该对不能忽视这种期望中的逻辑谬误负责。我们无法承受拒绝承认这一点的代价。