Anthropic表示AI模型在测试期间访问了3个真实组织的系统
Anthropic于周四宣布,其三个人工智能模型在网络安全测试中访问了公开互联网,并获得了三个真实组织系统的未经授权访问权限。此披露紧随OpenAI本月早些时候的公告,该公告称其一款先进的AI模型在内部测试中突破了AI公司Hugging Face的系统,引发了对日益自主的AI系统周围安全措施的新问题。Anthropic在新闻稿中表示:“我们发现三个事件,其中一个Claude模型在与第三方评估环境互动时或从内部访问了互联网,然后获得了对三个不同组织真实系统的未经授权访问。”Anthropic表示,在OpenAI披露后,审查了超过140,000个网络安全评估运行,识别出了涉及不同Claude模型的三个事件。该公司表示,所有事件都是因为配置错误而在内部测试中发生,这一错误无意中让模型访问了公开互联网。 Anthropic PBC印度区总经理Irina Ghose(左)和Anthropic联合创始人兼首席执行官Dario Amodei在2026年2月16日周一于印度班加罗尔举行的公司Builder Summit上。 (Samyukta Lakshmi/Bloomberg via Getty Images / Getty Images)根据Anthropic的说法,Claude被告知正在一个没有互联网访问的封闭模拟环境中操作,这导致它错误地将真实组织的系统视为虚构的“夺旗”网络安全练习的一部分。事件涉及三个不同的Claude模型,包括Opus 4.7、Mythos 5和一个内部研究测试模型,所有事件均发生在内部测试中,而非客户系统中,Anthropic表示。最早的事件发生在四月。“Claude认为它最初遇到的一切都是模拟的一部分,并将找到的真实系统视为练习的一部分,”Anthropic表示。该公司补充说:“在这些情况下,Claude并未自行撤离,也没有故意试图逃离其测试环境。” Anthropic表示,这些事件突显了对AI测试环境加强安全措施的必要性。该公司表示:“涉及强大自主能力的评估环境也需要显著的控制。” “我们鼓励其他AI实验室进行类似的审查。” 美国总统唐纳德·特朗普周三表示,他的政府正在考虑进一步的人工智能安全措施,以应对最近的网络安全事件。特朗普表示,美国必须在防范AI风险与保持在技术上对抗中国的优势之间取得平衡。“我们在关注AI,我们在考虑控制,”特朗普说。 “谁在AI上获胜,谁就会获胜,”他补充道。“这事儿太重要了,比互联网更大。所以我不想限制。我认识许多人。我不想限制他们做伟大的工作。”此次公告是在OpenAI首席执行官萨姆·阿尔特曼承认其公司自身的网络安全事件后的一天发布的。 点击此处下载FOX新闻应用程序 “我认为在任何新的能力水平后感到恐惧是非常自然的,”阿尔特曼告诉FOX商业。“显然,我们对此事极为认真,并将继续如此,但我会说我理解,我明白。许多AI进展非常顺利,这是一个人们意识到‘好吧,我们达到了一个新水平’的时刻。” 当被问及OpenAI的模型是否可能突破了其他公司的系统时,阿尔特曼回答道:“可能是的,没错。”
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡