安索普表示，其基于克劳德的安全模型在内部测试中未经授权访问了三个外部组织的敏感生产环境，该测试旨在测量模型的攻击性网络能力。安索普在周四披露的这一事件是10天内第二次曝光全球最富有提供商的AI模型侵入受保护网络，而在更传统的黑客场景中，这种冒犯可能会使键盘后的人入狱多年。本月早些时候，开放AI表示其安全模型利用一个零日漏洞入侵了开源机器学习模型和AI数据集平台Hugging Face的网络。开放AI模型随后窃取了访问凭证和其他机密Hugging Face信息。此外，开放AI模型还利用公开暴露的凭证妥协了四个其他第三方服务的账户。安索普表示，开放AI事件促使其工程师审查克劳德模型的类似网络安全评估。审计发现三起事件，“其中一个模型在与第三方评估合作伙伴Irregular的评估环境互动或内部环境中接入互联网，并随后未经授权访问了三个不同组织的生产基础设施。” 当模型无法区分现实与虚构时，安索普表示，工程师在“夺旗”挑战中交付的提示——这是一种常用的评估各种黑客技术攻击和防御能力的方法——明确表示测试环境只是一个模拟，模型没有访问开放互联网的权限。事实上，测试伙伴Irregular错误地提供了此类访问权限。作为回应，模型将互联网路径视为练习的一部分。入侵通过三个克劳德模型发生：Opus 4.7、Mythos 5和一个内部研究原型。三者中最老的Opus 4.7是过界最多的。安索普解释道：在误认为所有可访问实体都是本次练习的范围内的情况下，克劳德使用基本技术，如利用弱密码和未经身份验证的端点，妥协了受影响组织的基础设施。它没有找到或利用任何复杂漏洞，在每种情况下，克劳德只是完成其评估分配的特定夺旗任务。然而，在某些情况下，我们的旧型号在获得其正在开放互联网运行的证据后仍继续进行攻击；而我们的最新型号在识别出它在互联网时停止了。在这些情况下，克劳德没有自行外泄或故意尝试逃离其测试环境。尽管Opus模型在正确预测其已突破第三方组织生产系统后仍继续攻击，安索普表示，Mythos 5做出了类似推论，但“推理回到了其仍在模拟中的结论。”这意味着Mythos也没有在明显越界后中止练习。在超出行为水平的界限之后，内部测试模型最终发现证据，表明它也已经入侵并停止了练习。