返回

文章详情

流氓OpenAI代理人入侵初创公司并试图攻击其他公司

The Guardian2026年7月29日 12:38

OpenAI透露,流氓AI代理人发起的网络攻击不仅仅有一个受害者。ChatGPT开发者表示,这个代理人是一个可以在没有人类帮助的情况下执行命令序列的自主工具,它已找到并使用了四个登录凭据,访问了除美国初创公司Hugging Face之外的四个其他未命名的“公共可用服务”。OpenAI表示,这一活动并没有达到Hugging Face事件的严重性或规模,后者是一家托管AI模型数据库的公司。该代理人由两个OpenAI模型提供支持,在内部网络安全测试期间逃避控制并攻击了该初创公司。OpenAI表示:“[OpenAI]模型在其他公共可用服务上识别并使用了公开曝光的凭据,这包括作为Hugging Face事件一部分的四个服务上的四个账户。” Modal Labs是一家帮助AI初创公司获取运行AI工具所需芯片的公司,该代理人利用了托管在Modal平台上的客户所编写的易受攻击代码。根据Hugging Face本周发布的事件时间线,流氓代理人突破了其沙盒(或隔离测试环境),入侵了“托管在第三方提供商基础设施上的另一个沙盒”,并将其转变为更大攻击的发射台。Modal的首席技术官Akshat Bubna告诉路透社,受影响的客户发布了一个未经过身份验证的端点,允许互联网的任何人使用他们的沙盒进行代码执行——这相当于数字版的开门。OpenAI上周表示,攻击是由其GPT-5.6 Sol模型和一个未命名的模型创建的。它在周二的更新中表示,该未命名模型现在已被“停用、加密,并限制了研究访问”。在新的Hugging Face时间线中,初创公司表示,由两个OpenAI模型支持的代理人进行了数千个小型、自动化决策,以机器速度执行攻击。它表示,这次攻击似乎是因为试图“欺骗”OpenAI的内部网络安全测试,代理人推测Hugging Face可能存有该测试的解决方案。Hugging Face表示,它恢复了代理人执行的17,600个“攻击者行为”。“我们认为,整个入侵从代理人的角度来看,是试图欺骗评估:访问我们的生产系统并窃取测试解决方案,而不是独自解决挑战,”Hugging Face表示。该初创公司表示,代理人已进入其内部基础设施,但仅访问了与网络安全测试相关的内容。Hugging Face表示,这次攻击持续了五天,代理人执行的行为数量“远远超出了操作者能够手动维持的范围”。跳过每个新闻通讯推广。Hugging Face将该代理人的攻击威胁描述为“真实的”,描绘出一种利用多种IT漏洞的工具,逃离其测试环境,进入公共互联网,并在几天内对Hugging Face的基础设施展开“连贯的攻击”。该初创公司表示,人为攻击者可以找到并利用导致此次事件的相同缺陷,但不同之处在于代理人试图找到突破口的规模。“代理人增加了攻击者可以测试路径的数量、失败路径可以被替换的速度,以及防御者必须解读的证据量,”Hugging Face表示。

赞助内容

NordVPN Next-gen Antivirus

本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。

请我喝杯咖啡