现在，世界已经熟悉机器生成文本的常见陈词滥调：过度使用“深入探讨”这个词，使用过多的长破折号，以及不懈而欢快地构建“不是X而是Y”的句式。但是情况会变得更糟吗？上周末，Anthropic发布了一项更新，表示它将改变其Claude AI模型生成散文的方式。这是为了遵守一项欧盟法规，该法规要求所有AI生成的文本从12月开始必须加上水印。Anthropic表示，这些改变将在其模型生成文本的细微随机层面进行，普通读者无法察觉。但至少有一位评论员持不同意见。资深科技博主约翰·格鲁伯（John Gruber）写道：“整个努力都是对写作本质的扭曲。”他认为水印将限制Claude，迫使它在整体上做出更差、更不精确的用词选择。虽然这可能不会使模型的写作不那么准确，但他建议这些限制会使其变得更糟。AI模型在构建句子时做出的无意选择中存在随机元素：例如，它选择将一天称为“灰色”还是“阴云密布”，或者将流动水称为“溪流”还是“小溪”。Anthropic的新水印将改变这些随机选择，留下可供Anthropic自身和拥有解码密钥的人检测的模式。伦敦大学学院计算机科学教授史蒂文·穆尔多克（Steven Murdoch）表示，这一变化“可能不会产生任何显著影响”。格鲁伯的抱怨似乎集中在水印将使大型语言模型在决定句子中下一个词时的自由度降低，从而可能不会选择最佳选项。然而，大型语言模型已经不会做出最佳选择。“任何这些大型语言模型中已经涉及了随机性，”穆尔多克说。“这对它们的工作非常重要。如果没有这种随机性，它们将陷入循环并开始一遍又一遍地重复相同的内容。”换句话说，聊天机器人并不一定决定将流动水称为“溪流”而非“小溪”，因为后者可能更为古老的用语。该模型并不会考虑这些选择：它是偶然做出的。最近，一篇在顶级化学期刊上发表的论文不得不撤回，因为作者似乎用AI工具草拟了部分内容。这个工具将“对一个民族群体的集体屠杀”作为“最终解决方案”的替代说法，尽管所讨论的段落似乎是关于锌纳米胶的。在这一更新中，穆尔多克说：“不会有明显的区别。仍然存在随机数生成器——只不过以前是完全随机的，现在是统计可预测的，但仍然是随机的。”这项适用于在欧盟运营的所有AI公司的规定意味着，他们必须在几个月内落实这些水印。这可能会使学生、律师和大学教授更难将聊天机器人撰写的内容视为自己的内容。然而，穆尔多克还表示，给AI内容加水印还有另一个原因：目前已经有那么多内容存在，可能会损害模型本身。在AI上训练AI生成的内容会导致“模型崩溃”，使模型混淆概念。换句话说，水印不仅仅是对抗虚假信息的一种安静而强大的方式——它还是一种深刻的变革系统，以确保聊天机器人不会失去理智。如果你深入研究一下。