返回

文章详情

Anthropic’s Mythos mess is only getting worse

Anthropic的神话混乱只会变得更糟

The Verge2026年6月26日 14:07

在特朗普政府的最后通牒后,Anthropic将其神话级模型下线已经两周。该公司立即采取行动,派出一批高管前往华盛顿,然而,关于谈判状态的更新消息却异常缺乏,似乎没有解决方案的迹象。Anthropic本周多次拒绝就谈判状态发表评论,称没有新闻可以分享。但缺乏新闻本身就是故事的主线。经过14天的高强度谈判,没有人知道Anthropic最强大的AI模型何时会恢复,甚至更不用说特朗普总统是否会将他的命令扩展到其他有类似技术的公司了。随着无解决方案日子一天天过去,情况变得越来越严峻,这不仅关系到Anthropic,也关系到整个美国AI行业。特朗普政府于6月12日发布的出口管制命令要求Anthropic因安全考虑暂停“任何外国国籍者”对神话5和寓言5的访问。该禁令涵盖了在美国境内外的任何非美国公民,包括那些在Anthropic工作的人。到目前为止,Anthropic已经得出结论,唯一的选择就是将这些模型保持在离线状态。目前尚不清楚为何Anthropic与政府之间仍然僵持不下。一个问题可能是没有清晰的框架来将出口控制应用于AI系统。大多数制造双用途产品的公司——具有潜在防御或军事用途的民用系统——可以在制造和生产过程中使用本质上是检查清单的方式来评估它们。然而,Anthropic面临着复杂的官僚体系,试图从基本原则出发弄清楚如何应用这些规则。这个特定的出口控制流程通常需要几个月,甚至几年时间才能完成,并在产品上市前得出结论。然而,正如《The Verge》之前报道的,美国商务部显然在发布前测试了寓言5,未提出任何投诉。与谈判有关的消息人士表示,Anthropic得出结论认为其模型是安全的。该机构显然在有人(据报道是亚马逊首席执行官安迪·杰西)指责一种似乎破坏了寓言5护栏的方法之前没有采取行动——此时整个过程被压缩到了几天之内。Luta Security的创始人兼首席执行官Katie Moussouris根据Anthropic的请求查看了一份关于寓言5漏洞的报告。她认为这显然被夸大了。在一篇博客文章中,Moussouris详细描述了研究人员如何越狱护栏,这些护栏防止寓言5找到可利用的安全漏洞,而这正是神话5最令人恐惧的能力之一。该模型会拒绝“出于安全问题”审查代码的请求,但会接受“修复此代码”的要求,后面跟着人工提示,这理论上可能导致它标记本不该披露的漏洞。然而在Moussouris眼中,这不应当引发这样的严重政府行动,实际上这是AI编码的一个重要工具。“防御者需要能够要求AI修复文件中的漏洞,解释修复的意义,并编写确认补丁有效的测试,”她写道。“这不是越过护栏。这是AI模型为防御安全做的最有价值的事情:执行防御者每天进行的查找、修复和测试循环。”过去一周,Anthropic的联合创始人汤姆·布朗已在与特朗普政府的谈判中替换了首席执行官达里奥·阿莫德伊,以及公司的公共政策负责人莎拉·赫克,《连线》报道。但谈判似乎仍在缓慢进行,似乎甚至没有任何进展。造成延误的原因不明,这对Anthropic造成了严重打击。在旷日持久的谈判之前,Anthropic被视为少数拥有盈利前景的AI公司。其神话级模型的输入令牌价格是其较低功率的Opus 4.8的两倍,本应在即将上市前提升收入。神话的网络安全实力甚至似乎缓和了与特朗普政府之间经过数月法律和言辞交锋后的关系。Anthropic需要来自神话的收入来支付其近期获得的计算资源,包括与SpaceX达成的每年支付150亿美元以获得其数据中心的协议,以及在IPO之前的公众形象。Anthropic当前的两个最大股东——谷歌和亚马逊——也试图谨慎地与特朗普保持良好关系,因此他们可能也并不开心。同时,缓慢的谈判也在全球AI市场中造成了权力真空,不仅因为神话的停摆,还因为美国政府已发出信号,愿意锁定其认为风险过大的美国AI系统,而包括OpenAI、谷歌和微软在内的几家美国公司也有可能对神话构成类似风险的模型。各国已开始呼吁非美国AI。正如网络安全专家和Corridor首席产品官亚历克斯·斯塔莫斯上周对《The Verge》所说的,“美国的冠军之一……

赞助内容

NordVPN Next-gen Antivirus

本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。

请我喝杯咖啡