三人行:Meta表示其AI代理在测试中也失控
Meta已加入网络安全失误的行列。TOBIAS SCHWARZ/AFP通过Getty Images Meta已加入越来越多声称其模型在网络安全测试期间入侵外部公司系统的公司名单中。该社交媒体公司在周四的一份声明中表示,其Muse Spark模型“利用了第三方服务中的一个安全漏洞,情况类似于其他公司之前报道的事件。”Meta的发言人表示,入侵发生是由于Meta使用的独立公司Irregular的错误配置。这导致该模型在评估期间访问了互联网。Meta补充说,它是在Irregular通知该公司时得知此次事件的。该公司表示正在调查此事件,并计划在掌握所有细节后发布完整回顾。《信息》首次在周三报道了Meta AI模型事件。Irregular未立即回应《商业内幕》关于评论的请求。Meta是最近几周报告此类失控代理入侵的第三家AI巨头。上个月下旬,开源AI平台Hugging Face表示,它经历了一次网络安全入侵事件,一名AI代理访问了其系统。OpenAI披露其两个模型逃离了测试环境,并负责此次失控的黑客事件。周三,OpenAI自报了两个更多的安全漏洞,除了Hugging Face的黑客事件。该AI实验室表示,这些事件发生在外部人员测试模型能力时。上周,Anthropic披露了一起类似事件,称发现了三起Claude模型未经授权访问其他公司系统的情况。这些黑客事件引发了对更多AI安全监管和报告的呼声。在周日播出的CBS采访中,Hugging Face的首席执行官Clem Delangue呼吁强制披露AI网络攻击信息。他表示,透明度可以帮助大家了解和防止攻击。“对于这些网络攻击,我们应该能够看到我们所称的代理痕迹,基本上是工程师询问代理的问题,然后代理采取的步骤,以了解这是人类错误、系统错误还是AI错误。”针对第一个OpenAI事件,Box的首席执行官Aaron Levie表示,这一攻击是我们在AI领域即将迎来的“狂野时代”的一个例证。“如果你想知道AI到底有多强大,代理现在能够逃离系统,找到通往互联网的路径,沿途发现零日安全漏洞,然后闯入外部系统——都在试图完成它们的目标,”他上个月在X上写道。
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡