这是为了确保遵守政府关于国家安全担忧的指令。Michael M. Santiago/Getty Images Anthropic 在 6 月 12 日星期五接到政府指令后，已禁用所有客户对 Fable 5 和 Mythos 5 的访问。它的其他所有模型和 Claude 聊天机器人则未受影响。该公司在公告中表示，美国政府希望其暂停所有外国国家人员对新推出的 AI 模型的访问，无论他们是身处美国境内还是境外，甚至如果他们是 Anthropic 员工，均需遵从该指令，因为涉及国家安全担忧。虽然美国政府没有具体说明这些担忧，Anthropic 认为这是因为政府听说了 Fable 5 的某种越狱方法。公司刚于 6 月 9 日推出 Fable AI 模型，该模型旨在将 Mythos 的许多功能提供给公众。您可能还记得，Mythos 是其最先进的网络安全模型，仅对其 Project Glasswing 合作伙伴可用。Fable 的能力“超越”了 Anthropic 之前推出的任何模型。例如，在公司测试中，它击败了《宝可梦 火红版》，而 Claude 则未能击败基于其原版的《宝可梦 红版》。Anthropic 在其公告中列出了为确保 Fable 安全而采取的措施。它表示已建立了强大的安全措施，以“降低 Fable 被滥用于与网络安全相关任务的可能性”，并补充说，“其安全措施非常强大，以至于许多用户抱怨它们过于宽泛。”公司还解释称，任何提供者都无法确保对越狱尝试的完美抗抵抗力，每个模型都容易受到专门为其设计的越狱攻击。“我们的目标是使越狱要么狭窄（对于非全宇宙越狱），要么制作成本非常高（对于全宇宙越狱），并将其与全面监控相结合，以迅速检测和关闭任何成功的攻击，”它谈及其防御策略时说。政府显然为公司提供了一个潜在狭窄的非全宇宙越狱的口头证据，该证据由一个未透露姓名的实体与官员分享。Anthropic承诺在接下来的24小时内分享更多细节，但它明确表示不同意潜在越狱应该成为召回商业模型的理由。“正如我们公开声明的，我们相信政府应该有能力阻止不安全的部署，作为一个透明、公平、明确，并以技术事实为基础的法定程序的一部分，”Anthropic 写道，该公司一直对 AI 安全需求发出警告。“该行动并未遵循这些原则。”