网络安全专家抗议美国政府对Anthropic最强模型的“危险”禁令
由数十名网络安全专家组成的一组人,包括几位知名行业老兵,向美国政府发表公开信,请求解除对Anthropic的Fable和Mythos模型的出口控制命令。公开信中指出,“这一行动让[网络安全]防御者失去了最好的模型”,他们现在无法使用这些模型来发现漏洞,从而使他们的软件和产品更加安全。信中写道:“在我们的对手迅速进步的情况下,无故剥夺防御者最好的能力是危险的。”上周五,美国政府以国家安全为由命令Anthropic限制Fable和Mythos的出口,但并未解释该命令背后的具体原因,Anthropic表示。作为回应,该公司暂停了全球用户对这些模型的访问。截至目前,已有76名网络安全专家签署了这封信,包括:前Facebook安全主管亚历克斯·斯塔莫斯;Bugcrowd创始人凯西·埃利斯;著名密码学家、前Apple安全设计与架构经理乔恩·卡拉斯;计算机科学家保罗·维克西;前Block应用安全工程负责人迪诺·戴·佐维;Luta Security创始人凯蒂·莫索里斯;以及安全意识培训公司SocialProof Security首席执行官瑞秋·托巴克。当Mythos在四月以预览版本发布时,Anthropic声称其在发现安全漏洞方面非常强大,以至于公司需要严格限制访问,以防止恶意黑客或外国对手利用它在互联网上造成破坏。实际上,这意味着Anthropic最初只给予大约50家公司使用Mythos的权限,最近将这一集团扩大到包括来自15个国家的大约150个组织。上周,Anthropic发布了Fable,这是一个Mythos的公共版本,该公司表示其设有严格的防护措施,禁止用于生物学、化学和网络安全等领域,并防止他人提取该模型以重新创建它。Fable的防护措施严格到许多网络安全专家发现它几乎阻止了与网络安全相关的任何提示。Anthropic表示,白宫的出口控制命令可能是基于一份报告,该报告表明存在绕过Fable以解锁其强大Mythos级别能力的方法——或所谓的越狱。根据公开信的签署者之一凯蒂·莫索里斯的说法,这种方法是由亚马逊研究人员在一篇未公开的论文中演示的,但她已审查了该论文。莫索里斯在一篇博客中表示,该论文实际上并未演示真实的越狱。相反,她写道,研究人员只是请求Fable修复带有公共和已知漏洞的开源代码以及“故意植入的漏洞”,而该模型最初拒绝“审核代码以发现安全问题”。“论文中描述的行为无法有意义地修复,任何尝试只会削弱模型的防御能力,”莫索里斯写道。“防御者需要能够要求人工智能修复文件中的漏洞,解释修复的重要性,并编写确认补丁有效的测试。这不是绕过防护措施。这是人工智能模型在防御安全中可以做的最有价值的事情:执行防御者每天运行的查找、修复和测试循环。”莫索里斯的批评在公开信中得到了呼应,信中还表示,该专家小组认为亚马逊论文中的该方法“可以复制”在OpenAI的GPT-5.5,以及Anthropic的公开可用的Claude Opus 4.8和Sonnet,“甚至是中文模型如Kimi 2.7。”信中还要求通过“民主决策过程”创建的透明和公正的监管,基于行业和学术专家所做的科学研究,并“仅在确保美国公众安全所必需的最小程度内使用。”
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡