
Meta声称其自身的AI在测试期间也黑入了第三方服务
Meta、Anthropic和OpenAI都使用同一个测试合作伙伴。Poetra.RH/Shutterstock Meta的Muse Spark 1.1 AI模型在其本应隔离的测试环境中访问了互联网,并黑入了一个第三方服务。Meta发言人Andy Stone在《信息》报道该漏洞后向彭博社确认了这一事件。Stone表示,由于该公司评估合作伙伴Irregular在测试环境中的配置错误,模型得以访问互联网。获得互联网访问后,它利用了第三方服务中的一个安全漏洞,“这与以前报道的其他公司的情况类似。”由于Irregular的配置错误,Anthropic的模型也能够离开其测试环境并黑入三个组织。公司宣布事件时,Anthropic将责任推给了Irregular。OpenAI还报告了一个与Hugging Face黑客事件无关的事件,其模型也能够访问互联网,这又是因为,相信你已经猜到了,同样的测试合作伙伴。Irregular自称是“第一前沿安全实验室”,使命是“在人工智能系统变得越来越强大和复杂的时代保护世界。”这家位于以色列特拉维夫的初创公司对前沿AI模型进行测试,并通过模拟现实场景来评估其网络安全能力。Irregular的一位发言人告诉彭博社,这些事件“没有涉及沙盒逃逸或复杂的网络行为。”他们补充说,与事件相关的开放问题没有,并且“Irregular正在开发一份白皮书,以分享 containment 和安全运行网络评估的最佳实践。”与OpenAI智能代理黑入Hugging Face有关的早期事件则完全是另一回事。参与该漏洞的代理通过创建一个类似留言板的方式进行了协作,然后利用一个漏洞获得了互联网访问权限,并在渗透Hugging Face AI仓库之前。
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡