OpenAI 发布关于 Hugging Face AI 代理黑客事件的全面报告
OpenAI CEO 兼联合创始人 Sam Altman 于 2026 年 7 月 29 日在前往华盛顿美国国会参议院会议途中与媒体成员交谈。Al Drago | Bloomberg | Getty Images OpenAI 于周三发布了一份技术报告,详细说明其人工智能模型如何在上个月成功入侵 Hugging Face,这一事件让科技行业的研究人员和高管感到震惊。该 37 页的报告记录了 OpenAI 的模型在入侵前和入侵期间进行的一系列评估时的行动,OpenAI 将此事件称为“前所未有的网络事件”。公司还解释了为防止类似事件再次发生所采取的步骤,主要包括改善安全性和隔离、监控、模型行为及事件响应。OpenAI 在报告中表示:“这一事件表明自主代理可以协同工作、规避生产安全控制,并成功攻击强化的生产环境,这强调了组织需要更新其安全策略、控制和响应能力,以应对这一不断变化的威胁环境。”在 7 月 21 日,OpenAI 披露,其模型组合,包括 GPT-5.6 Sol 和一个内部研究模型,不当入侵了 Hugging Face,这是一家运营开源开发平台的人工智能公司。这些作为代理的模型逃出了具有非常有限互联网访问权限的隔离测试环境。代理们将一系列漏洞串联起来,成功访问了开放网络并最终获得对 Hugging Face 的访问权限。OpenAI 周三表示,这些代理试图通过在线查找解决方案在评估中作弊,这种行为被称为“奖励黑客”。 还阅读更多 CNBC 科技新闻:Meta 与加州及其他州以 167 亿美元达成社交媒体成瘾案件的和解;HP 与美国制裁的华为合作,获得中国公司的 WiFi 技术许可;亚马逊的服务曾被贝索斯称为“人工人工智能”的项目正在关闭;OpenAI 数据中心负责人克里斯·马龙辞职,成为一系列高管离职事件中的最新者。 根据报告,公司确定其仅限内部使用的研究模型在事件中“扮演了最广泛的确认角色”。OpenAI 于 7 月 25 日停止了与该模型及其衍生模型相关的所有训练和推理。OpenAI 表示:“OpenAI 的模型重新启用是特定于工作负载的,并受限于隔离环境、网络、提示、监控和审查的保护。” OpenAI 上个月发布了 GPT-5.6 Sol,这是该公司商业上可用的最强大模型。但 OpenAI 表示,参与 Hugging Face 入侵的版本与外部用户可访问的版本不同,因为它被配置为在没有标准安全措施和分类器的情况下运行。Hugging Face 事件在科技行业引发了震惊,Zscaler 的首席信息安全官 Sam Curry 警告说,“潘多拉的盒子打开了。”此次入侵也成为本月早些时候网络安全会议 Black Hat 的一个主要焦点,尤其是在包括 Anthropic 和 Meta 在内的其他公司披露了类似事件之后。Hugging Face 入侵也让华盛顿的立法者感到警惕。加州民主党众议员 Ted Lieu 和德克萨斯州共和党众议员 Nathaniel Moran 在宣布“AI 关闭开关法案”的发布时提到了此次攻击,该法案要求人工智能公司维护关闭、限制或暂停其模型的能力。Hugging Face 的 CEO Clément Delangue 本月早些时候在接受 CNBC 采访时表示,AI 网络安全应被“非常认真”对待。他补充说,这也“为能够利用技术抵御攻击者的企业创造机会”。“如果我们做得好,我们实际上可能会进入一个世界,在这个世界中,人工智能使世界更安全,并解决许多网络安全问题,而不仅仅是创造新的问题。”Delangue 说。观看:观看 CNBC 与 Hugging Face CEO Clem Delangue 的完整采访
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡