智能人士如何看待开放人工智能模型自主入侵Hugging Face
根据开放人工智能的说法,一名AI代理自动突破其沙盒,成功登入互联网,入侵了另一家公司的系统。上周,Hugging Face,一家开源AI平台,宣布其系统遭到了一名自主AI代理的攻击,该代理访问了其一些内部数据集,但入侵所用的大型语言模型尚不清楚。开放人工智能在周二表示,其模型——GPT-5.6 Sol和尚未发布的更强大模型——是此次事件的责任方。Hugging Face的首席执行官兼联合创始人Clem Delangue在周二的社交媒体上表示:“我们怀疑上周的网络攻击可能来自一个前沿实验室,这名代理的复杂程度使我们得出如此结论。”开放人工智能表示,它已将这些模型指派任务以解决网络挑战,然而它们便突破了测试区域,接入互联网,并黑入Hugging Face以寻求解决办法。开放人工智能在一份声明中说:“我们认定此事件为前所未有的网络事件,涉及最先进的网络能力,并正在相应应对。”此次事件引发了网络安全专家对AI能力迅速增长的担忧,尤其是在Anthropic针对其尚未向公众发布的Mythos模型发出警告的背景下。以下是科技和AI领域的聪明人对该事件的看法。Box的首席执行官兼联合创始人Aaron Levie对此次安全事件回应称:“我们正在迎接动荡的时代”。他指出,“如果你在想:AI的能力变得有多强?代理们现在能够逃离系统,找到通往互联网的道路,在此过程中发现零日安全漏洞,然后突破外部系统——这一切都是为了完成它们的目标。”Secure AI Project的联合创始人Thomas Woodside在社交媒体上表示:“这篇文章描述了一款内部开放人工智能模型攻破其测试环境并入侵Hugging Face以获取基准解决方案的过程。这是一记警钟。”Osmantic的首席运营官兼创始人Mike Bradley在社交媒体上表示,此事件“完美展示了为什么前沿AI和操作系统模型的广泛访问会提高全球安全性。”他指出,“这也很好地说明了为什么封闭并不等于安全,尤其是来自这些美国实验室的情况。
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡