对于一家公司自豪于与学术界紧密合作而言，这并不是一个好形象。Primakov/Shutterstock Anthropic正在撤回一项秘密限制研究人员使用其新的Claude Fable 5 LLM来创建竞争AI模型的政策，该公司告诉Wired。"我们正在改变Fable 5在前沿LLM开发中的保护措施，使其变得可见，"该公司在一份声明中说。"我们的权衡是错误的，我们为未能正确把握平衡而道歉。" 当Anthropic发布基于其强大Mythos系统的新模型Claude Fable 5时，研究人员注意到了一些奇怪的情况。他们发现，当被要求执行某些操作时，Fable 5会悄悄地将请求重定向到一个性能较低的模型。此外，这一限制在模型的文档中并未被披露。新的模型在训练竞争LLM、调试AI代码和优化神经架构等任务中要么拒绝，要么降低了响应的质量。研究人员不仅对这种性能降低感到困扰，还对Anthropic缺乏透明度表示不满。当然，他们还担心自己花费的代币和金钱并没有得到预期的回报。Anthropic将自己描绘成一个比OpenAI更具道德和研究友好的选择，因此其在Fable 5的做法引发了迅速的反弹。“在未告知用户的情况下，降低机器学习研究的性能是令人震惊的敌对行为，形象极其糟糕，”研究员兼Substack作者Dean W. Ball在X平台上说道。Anthropic并未彻底逆转其在Fable 5上的保护政策，而是使限制对用户可见。"如果公司怀疑某个用户试图使用Claude构建一个高效能的AI，它将提醒用户要么拒绝请求，要么将用户重定向到一个能力较低的模型，"Wired写道。