Anthropic正在给AI生成的文本添加水印。这一消息使得科技界意见分歧。OJO Images/Getty Images Anthropic在Claude生成的文本中放置隐形水印的举措正在分裂技术社区。8月2日或之后推出的Claude模型将在其文本输出中嵌入"不可察觉的水印"，Anthropic表示还计划为旧模型添加支持。该AI实验室表示，该水印将随复制和粘贴的文本一起传递，并计划不久后发布检测工具。这引发了更广泛的辩论：人们是否应该能够知道何时使用了AI，或者用户是否应该能够在不留下永久痕迹的情况下使用AI？以下是支持和反对的三个论点。支持：水印意味着更大的透明度 从社交媒体帖子到求职申请再到学校作业，很难确定哪些是人工生成的，哪些是AI生成的。支持者表示，读者有权知道他们所阅读的文字是否是由机器人生成的。高管沟通公司The Narrative Company的共同创始人Aadit Sheth在X平台发文表示，人们应该能够听出一段文字是否反映了某人的思考。“当你使用AI时，你自己也知道你并没有真实地对待自己，”Sheth写道。“这又是一个系统在说话。”反对：技术不完美，可能会在高风险环境中暴露人 Anthropic还迅速警告其水印文本存在局限性，表示它只能确定Claude“在某些时候可能与内容相关”。一个担忧是，细微差别可能会丧失，人们会认为任何测试水印呈阳性文本都是完全由AI生成的。一些用户担心，当他们利用AI协助工作时，水印可能会导致客户、老板、学校或合同出现问题。自由职业开发者Vladislav Rajtmajer告诉Business Insider，他担心发送给客户的代码中的Claude水印可能会引发著作权问题。Anthropic表示，该水印对代码将产生“微不足道的影响”。公共政策工作者Arturo Villarroya表示，他担心在有严格AI规则的专业和学术环境中可能会出现麻烦。对于此，Anthropic表示其水印无法追溯到某个组织或个人用户。该公司表示，正在增加水印以满足其对欧盟AI法案的承诺。支持：水印可以帮助教授抓住作弊学生 在学术界，AI作弊现象已经从小范围蔓延到广泛关注。一些学生告诉Business Insider，他们因为在学校作业中使用AI而感到内疚，部分人担心过度依赖或技能退化。大学正在实施更严格的政策，例如面对面考试和禁止使用笔记本电脑的教室。尽管如此，许多教育工作者无法应对学生利用AI规避规则的所有复杂方式。水印可能提供另一种工具。“这在大学里将是太棒了，”汽车制造商Renault Group的软件开发者Gaetan Semet写道。“他们都会被抓住。”反对：编辑问题 最响亮的批评之一是，Anthropic可能会对Claude几乎没有输入的工作进行水印。Anthropic表示，使用Claude对自己写的文本进行校对、翻译或总结后，水印仍然可能存在。分析师Ben Thompson，Stratechery通讯的作者表示，强迫一个写作工具声称其拥有版权就像要求圆珠笔自称为作者。“想要修正语法的人面临其原始内容被标记为AI的风险，似乎不太公平，”他写道。Anthropic在一篇博客文章中回应了校对问题。水印仅适用于Claude选择的词汇，写道：“因为几乎所有的单词都是个人的，因此水印可以附着的内容非常少（如果有的话）。”支持：水印可以帮助AI公司避免在AI生成的杂料上训练 还有一个标记AI输出的理由：科技公司可能不希望在早期模型生成的大量文本上训练下一个模型。软件开发者Donn Felker称其为“蛇吃自己的尾巴”问题。如果聊天机器人不断吸收自己的输出，未来系统的质量可能会下降。“似乎没有人谈论这个，但在某个时候，我们可能会面临一个真实的问题，即我们无法再改善AI，因为一切都已经是AI生成的，”AI治理公司Moonbounce的首席执行官，前Meta信任与安全负责人Brett Levenson告诉Business Insider。“我认为Anthropic只是试图延迟这一时刻——或者至少在它到来时保持警觉，”他补充道。反对：它们可能使版权主张变得更加困难 证明你拥有自己的作品可能会更加棘手。在AI时代，版权一直是一个大问题：如果我使用AI生成一部作品，它实际上属于我吗？随着AI使用变得更加明显，水印可能会将这个问题揭开。软件工程师培训师和教练John Crickett应用了这个理论。