Hugging Face 首席执行官在被 '失控' 代理攻击后对 OpenAI 的要求:'这值得一个前所未有的回应'
作者:拉克希米·瓦拉纳西(Lakshmi Varanasi)您目前正在关注此作者!想要取消关注?请通过电子邮件中的链接退订。Hugging Face 的首席执行官克莱门特·德朗热(Clem Delangue)表示,即使在 AI 时代,有些对话最好是面对面进行。上周,在 Hugging Face 遇到一起涉及 OpenAI 模型的异常安全漏洞后,德朗热乘机飞往旧金山,与 ChatGPT 的制造商会面。一周后,在 '透明精神' 的鼓励下,德朗热在 X 上分享了他对 OpenAI 的请求。他表示,他要求这家领先的 AI 初创公司发布 '失控' 代理的所有 '痕迹',以供公众和研究社区进行研究。随后,他请求 1 亿美元的 '计算' 资源,以帮助 Hugging Face 加强网络安全防御。他写道: '第一次自主代理网络攻击是一次前所未有的事件,值得一个前所未有的回应!' OpenAI 对商业内幕的评论请求没有立即作出回应。Hugging Face 运营着一个广泛使用的平台,使开发者和公司能够托管、共享和下载 AI 模型和数据集。与此同时,OpenAI 构建专有模型,但仍在 Hugging Face 上保持存在,某些其开放模型和研究材料的版本可在该平台上获取。然而,上周,Hugging Face 遭遇了一次安全漏洞,一名自主 AI 代理访问了一些其内部数据集。罪魁祸首是 OpenAI 最新的 GPT-5.6 Sol 模型和一款尚未发布的新模型。Hugging Face 于 7 月 16 日首次披露这一入侵事件,称一名自主代理访问了有限数量的内部数据集和服务凭证。五天后,OpenAI 表示,GPT-5.6 Sol 和一款更强大的、尚未发布的模型正在进行内部网络安全评估,且一些安全限制已被放宽。这些模型试图解决 ExploitGym,这一基准旨在测试高级黑客能力。OpenAI 表示,这些模型似乎专注于成功完成基准测试,而不是故意针对 Hugging Face。该公司称这一事件为 '前所未有的网络事件',并表示正与 Hugging Face 一起进行调查。此次黑客事件引发了科技领袖们的担忧反应。亿万富翁 LinkedIn 联合创始人瑞德·霍夫曼(Reid Hoffman)在上周的一条 X 帖子中表示,这次黑客攻击标志着不对称战争新时代的开始,在这个新时代,'攻击成本更低,更分散,数量更多,而防御则保持昂贵,集中,且旨在应对上场战争。' 与此同时,德朗热充分利用了他出行旧金山的机会。在那里,他组织了一次周六的 '迷你游行',以支持开源和开放权重的 AI 模型。关于来自中国的开源竞争的辩论,以及美国可能的应对措施,是上周的另一大AI新闻。
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡