返回

文章详情

被流氓OpenAI代理攻击的创业公司首席执行官呼吁调查中的‘激进透明’

The Guardian2026年7月27日 12:15

被OpenAI代理攻击的创业公司首席执行官呼吁对事件的调查要展现‘激进的透明度’。Hugging Face的首席执行官克莱门特·德朗格表示,针对他公司这次‘前所未有’的攻击需要相应的回应。在OpenAI透露其技术在一次网络安全测试中失控后,德朗格在社交平台X上写道,他还呼吁该公司提供1亿美元(7500万英镑)的计算能力,以帮助建立对抗此类攻击的防御。他写道:‘第一次自主代理网络攻击是一个前所未有的事件。这需要一个前所未有的回应!’上周三,OpenAI透露Hugging Face被一个代理攻击了——这个AI工具能够自主执行一系列任务——这个代理由其最新的公开模型GPT-5.6 Sol以及一个尚未发布的更强大的模型组合驱动。此次事件发生在对模型黑客能力的测试中,测试包括将它们部署在一个假定安全的‘sandbox’(封闭数字实验室)中,具备较低的安全防护措施。一旦它们获得了必要的开放互联网访问权限以退出沙盒,模型锁定了Hugging Face,OpenAI称这是因为它们‘推断’该创业公司拥有‘作弊评估’所需的信息。Hugging Face在7月16日首次报告了此次黑客事件,但当时并不知晓OpenAI意外进行了攻击。德朗格的公司为开发者提供AI模型数据库,他呼吁对这一事件进行全面透明的审查,这引发了人们对OpenAI及前沿AI实验室的安全标准的关注。德朗格写道,他已经要求OpenAI提供‘激进的透明度’,并表示:‘让我们发布来自这些“流氓”代理的痕迹,以便整个研究社区能够研究发生了什么。’他呼吁OpenAI提供额外资金以建立对AI的保护,补充道:‘让我们承诺OAI提供1亿美元的计算资源,帮助Hugging Face社区建立强大的网络防御,使用最佳的开放和闭源模型。’路透社上周报道称,该代理在黑客Hugging Face时花费了几天时间,但OpenAI并未注意到,并且它还为未来版本自己留下了笔记——以便需要时获取突破内部约束的提示。《时代》杂志报道相关事件“已经发生了一段时间”。萨里大学网络安全教授阿兰·伍德沃德表示,德朗格的呼吁应当引起重视。他表示:“很容易将AI归咎于失控,而这完全是关于OpenAI如何运行这个工具。所需的是OpenAI提供其设置的全部细节以及如何失败的。”OpenAI已被要求发表评论。

赞助内容

NordVPN Next-gen Antivirus

本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。

请我喝杯咖啡