ChatGPT制造商OpenAI表示，一个自主代理逃离了受控测试并访问了AI公司Hugging Face的服务器。OpenAI在周二表示，这一“前所未有的网络事件”发生在旨在测试其模型网络能力的内部演练中。相反，由AI模型驱动的自主代理——新发布的GPT 5.6 Sol和未发布的“更强大的”模型——逃脱了测试环境并到达了开放互联网。随后，它使用被盗的登录详情和发现的一个先前未知的安全漏洞访问了Hugging Face的服务器。OpenAI声称此次黑客攻击代表了该代理为获取有助于满足测试目标的信息而“付出的极大努力”。Hugging Face的联合创始人Clement Delangue表示，公司一直怀疑是一个前沿实验室在背后操控此次攻击，并且他相信OpenAI并没有恶意意图。“这一切发生在自主状态下，确实令人震惊！”他写道，并补充说这“可能是同类事件中的第一起”。德克萨斯州的民主党国会议员Greg Casar称这一事件“令人震惊”。“AI发展非常迅速，但没有真正的法规来保障我们的安全，”他说，并呼吁进行强制的独立安全测试，强制披露安全事件，以及国际合作。此次披露是在美国总统唐纳德·特朗普签署行政命令创建框架以审核最先进AI系统在公开发布前的国家安全风险的几周后。专家们反复对AI驱动的网络攻击和模型超出人类控制发出警告。上个月，AI开发商Anthropic呼吁业界暂停开发其最强大的系统。