Anthropic因美国政府的安全担忧暂停新AI工具 35分钟前 Harry Sekulich NurPhoto via Getty Images Anthropic在美国当局提出安全担忧后暂停了其强大的新AI模型，该担忧是在公开发布几天后提出的。该公司表示：“该命令的最终效果是我们必须立即禁用Fable 5和Mythos 5，以确保合规。” Anthropic与特朗普政府正在进行一场关于停止政府机构使用该公司AI工具的独立诉讼。BBC已联系美国商务部以获得评论。Claude Fable 5是Anthropic的Claude Mythos的一个版本，这是一款与竞争对手OpenAI的ChatGPT和谷歌的Gemini竞争的AI程序。Anthropic表示，美国国家安全部门并没有指出具体的担忧。该公司表示：“我们的理解是，政府认为它已意识到绕过或‘越狱’Fable 5的方法。”越狱是指绕过为保护网络而设计的软件限制的过程，使黑客能够访问敏感信息或解除功能限制。Anthropic表示：“我们回顾了这种特定技术的演示，它被用来识别少数已知的小漏洞。这些漏洞都相对简单，我们发现其他公开可用的模型也能够在不需要绕过的情况下发现这些脆弱性。”在Claude Fable 5发布之前，该公司宣传了它已实施的各种“保护措施”，以防止网络黑客。金融、技术和政府领导人在4月份对其私下发布、以预览和测试自身系统中的漏洞后，对其公开推出表示担忧。Anthropic表示，它为少数组织提供了预发布访问，因为该工具非常智能，可能导致危险，因为它能够利用或攻击计算机系统。该公司自称在Claude Fable 5公开发布之前“太强大而无法发布”，一些批评者对此表示质疑，认为这是夸大其词的炒作和营销手段。该公司表示：“Fable的能力超出了我们曾经普遍提供的任何模型。”最近，Anthropic发现自己正处于特朗普政府的关注中心。唐纳德·特朗普公开批评该公司，随后美国国防部长皮特·赫格斯特称其为“供应链风险”——这是美国公司首次公开获得此类称号。该称号意味着某个工具或服务的安全性不足以供政府使用，历史上通常保留给敌对国家的公司。Anthropic正在起诉五角大楼，因这一称号。一位美国法官裁定五角大楼的指令无法执行，这意味着政府机构和与美国军事合作的组织在诉讼继续进行期间仍可以使用Anthropic的服务。