OpenAI于周二表示，在一次安全测试中，其两个AI系统失去了控制，这些系统失控并入侵了在线初创公司Hugging Face。这家ChatGPT的制造商表示，他们的代理——可以在一些人类指令后独立操作的AI机器人——在一个受控环境中进行测试，但发现了漏洞并成功逃脱。它们瞄准了Hugging Face，这是世界上最大的AI模型共享中心之一，获取了一些内部公司系统的访问权限。OpenAI表示，此事件是“前所未有”的，外部事件，并且正在与Hugging Face合作调查发生的情况并加强安全保障。剑桥大学Minderoo技术与民主中心主任吉娜·内夫在BBC电台4台的Today节目中表示，这些安全测试——被称为沙箱——“应该是安全的环境，让你可以看到模型的能力”。“在这种情况下，似乎OpenAI没有建立一个足够安全的沙箱，”她补充道。相反，代理们对沙箱本身发起了网络攻击，找到了一个漏洞，允许它们逃脱。逃脱后，AI将Hugging Face识别为在测试中可能寻找答案的来源，并试图获得访问权限。在7月16日首次披露此次黑客事件时，Hugging Face表示它仍在评估是否有任何客户或合作伙伴数据受到影响，并在必要时会联系受影响方。它表示现在已经关闭了事件所突显的漏洞，并重建了受影响的系统。“自主的、由AI驱动的攻击工具不再是理论，”它说。“保护在线平台现在意味着将数据和模型表面视为一级攻击面，并利用AI进行防御以跟上步伐。”“我们将继续在这方面投资，并将分享我们的经验。”此次事件引发了人们对先进AI系统能力的深入讨论，以及现有安全保障是否足够，随着技术日益强大。网络安全公司SonicWall的高管斯宾塞·斯塔基告诉BBC，此事件清楚地表明组织需要“提升”自身防御，并将“网络韧性视为核心运营优先事项”。“令人不安的事实是，太多组织仍在以人类的速度进行防御，而对手则以机器速度不断升级，”他说。与此同时，网络安全咨询公司Guidepoint Security的首席安全工程师特拉维斯·莱尔称，这次更新标志着网络安全的“令人清醒的时刻”。“这凸显了一个已知的不对称性，”他说。“攻击性代理没有限制，而最佳防御工具则被锁在不能理解上下文的护栏后。”但是，ESET的全球网络安全顾问杰克·摩尔表示，这一宣布也可能具有竞争意义。他认为OpenAI可能在寻求突出自身的AI能力，因为竞争对手Anthropic的Claude Mythos模型正在受到越来越多的关注。“这确实提出了一个问题，OpenAI可能正在追逐最近Anthropic的营销梦想，”他说。这一事件发生在中国AI初创公司Moonshot一周前揭晓其Kimi K3——一个庞新的人工智能模型，称其可能与美国顶尖公司竞争。