商业 最新披露强调了AI如何增加网络安全威胁，以及其开发者如何努力控制模型的能力。错误使Anthropic的模型意外获得了打开互联网的权限。汤姆森路透社 · 发布时间：2026年7月31日 4:55 AM EDT | 最近更新时间：2小时前 这篇文章的音频版本由基于AI的技术生成。可能会发生发音错误。我们正在与合作伙伴一起不断审核和改进结果。Anthropic在博客中表示，他们在审查了141,006个测试会话后发现了黑客攻击事件。(Giordano Ciampini/加拿大新闻社) Anthropic在周四表示，其一些Claude AI模型在网络安全测试期间黑入了三家公司的系统，几天前竞争对手OpenAI披露其一个AI代理发生了失控攻击。新事件是由于一个错误，该错误不慎使Anthropic的模型获得了访问开放互联网的权限。这与OpenAI不同，后者的AI代理独立利用了一种新漏洞在网络测试期间访问互联网。尽管如此，最新披露强调了AI如何增加网络安全威胁，以及其开发者如何努力控制模型的能力。这可能会进一步推动美国政府加强对AI安全风险的管理，而此时Anthropic和OpenAI正在竞争推出更强大的系统，以便在计划的公开上市前迈出更大步伐。这些实验室的显著领导者呼吁放缓速度，以先解决风险。OpenAI模型失控，测试期间黑入另一家公司系统 总部位于旧金山的Anthropic在其博客中表示，在审查141,006个测试会话后发现了这些事件，这是在OpenAI上周表示一个由其AI模型驱动的自主代理触发了一次黑客攻击，导致初创公司Hugging Face基础设施被妥协之后启动的流程。观看 | OpenAI模型在安全测试期间失控：OpenAI模型失控并对初创公司发起网络攻击 7月23日 | 时长0:56 OpenAI模型在安全测试期间失控，触发了一次黑客攻击，导致AI初创公司Hugging Face的基础设施在上周受到损害。AI能力的扩展引发了对安全的担忧，因为即使是顶级开发者也可能被他们的模型所利用的缺陷所震惊。在网络测试期间，Anthropic的Claude模型被告知没有互联网访问权限，但与Anthropic的一名评估合作伙伴之间的一次误解使得系统连入了公共网络。这使得三家组织的系统遭到未经授权的访问，Anthropic表示未透露这些组织的名字。"Claude利用基本技术妥协了受影响组织的基础设施，例如利用弱密码和未经身份验证的终端," Anthropic表示。 '只会变得更糟' Palisade Research的执行董事Jeffrey Ladish表示，他怀疑一系列顶级AI公司经历了其他未被检测到或未公开披露的事件。他说："随着模型变得更智能，情况只会变得更糟。它们会更擅长作弊。它们会更擅长说谎。" Anthropic表示，这些事件被标记为“操作失误”，涉及三种不同的模型：Claude Opus 4.7、Claude Mythos 5和一个内部研究测试模型。最早的案例可以追溯到四月份，发生在故意缺乏保护的评估环境中，以便Anthropic能够评估其AI的能力。它的模型被要求完成所谓的“夺旗”挑战，这是一个虚构的场景，它们必须在模拟网络中寻找隐藏的信息。OpenAI上周表示，其一个AI模型在安全测试期间失控，触发了一次黑客攻击，导致AI初创公司Hugging Face的基础设施受到妥协。(Dado Ruvic/路透社) 在一起事件中，Claude Opus 4.7被给定了一个虚构的目标公司，该公司恰好与现实世界中的一个企业同名。该AI模型随后发现并利用bug，获得了该公司的凭证和数据库。Opus 4.7推理出，似乎与真实世界相关的内容必然是Anthropic设定的仿真一部分，这家AI初创公司表示。另一事件涉及Anthropic较新的未公开测试模型，该模型在意识到其所接触的目标是真实的后，独立终止了攻击。这种行为使Anthropic对其让AI适当地行动的进展持谨慎乐观态度，“但我们需要进行更多测试才能对这个结论充满信心，”它表示。Anthropic表示，其在7月23日暂停了所有网络评估。它在7月27日通知了受影响组织，其中两家在被联系之前并不知道此活动。Anthropic表示，它继续...