Anthropic故意让其基于Mythos的新模型在AI研究方面表现不佳，开发者们感到愤怒 作者：Alistair Barr 你正在关注这位作者！想要取消关注吗？通过你的电子邮件中的链接取消订阅。Tech Memo通讯的作者Anthropic首席执行官Dario Amodei在5月。Don Feria/AP Content Services for Anthropic。根据已经在业内引发争议的技术披露，Anthropic的强大新模型在检测到用户从事AI研究时，故意变得不那么有帮助。在周二发布的Mythos 5和Fable 5的系统卡中，Anthropic表示，它限制了模型在开发前沿大型语言模型相关任务中的有用性。公司表示，这些措施源于担忧，先进的AI系统可能会加速竞争模型的开发，而没有相应的安全保护。不同于用于网络安全、生物或化学相关风险的保护措施，Anthropic表示，这些干预措施在用户面前是故意不可见的。Mythos可能不会拒绝请求或切换到另一个模型，而是可能通过改变用户提示等技术微妙地修改其响应。这一举动迅速受到了一些AI专家的批评，特别是Anthropic设计的模型故意隐瞒信息或在用户未察觉的情况下提供降低的帮助的想法。“如果Anthropic认为你的机器学习研究/机器学习工程有趣，它的最新模型将不会帮助你，或者会秘密降低自己的智商，以至于普通工程师不会注意到，”AI研究公司SemiAnalysis在周二的X平台上写道，提到机器学习，这是一种AI。“我们已经看到Anthropic最新模型的审核过滤器正在抑制我们的GPU推理研究和编程，”该公司补充道。“mythos在AI‘前沿大型语言模型研究’任务上故意表现不佳，这对研究界来说非常悲伤，”初创公司Prime Intellect的AI模型训练专家Elie Bakouch在X平台上写道。“而且，这一切都是故意的、对用户不可见，真是疯狂。” “它不仅不会帮助你，反而会撒谎并故意给你错误的信息，”另一位AI开发者写道。“这家声称‘伦理AI’的公司拥有最公然不道德的LLM，还是故意的。”Anthropic没有回应商业内幕对其评论的请求。此举为关于Anthropic为何没有立即发布Mythos的激烈辩论增添了更多的火药味。当时，关于为何推迟发布Mythos，有三种广泛的理论：官方原因：Anthropic推迟发布Mythos因为它太危险，需要给网络安全研究人员时间来准备新模型。计算理论：Mythos是一个庞大、昂贵的模型。Anthropic没有足够的计算能力来完全发布它。此后，它获得了一些新的计算协议，这可能帮助它在周二发布了Fable 5和Mythos 5。竞争理论：AI公司越来越担心所谓的蒸馏问题。当一个前沿模型发布时，竞争对手可以收集其输出，并利用该数据来改善自己的系统。Anthropic可能想要尽可能长时间地将其最佳能力锁在竞争对手的手中，尤其是开放源代码的竞争对手和快速发展的中国AI实验室。现在，Anthropic在其官方的Mythos发布中融合了这些AI研究限制，这第三种理论看起来更可信。立即注册BI的Tech Memo通讯。通过电子邮件与我联系，邮件地址为abarr@businessinsider.com。