这家人工智能巨头表示，在即将推出的Astra模型方面，它无法“排除关键网络能力”。Justin Sullivan/Getty Images在一起重大的网络安全事件发生后，OpenAI的模型入侵了一个名为Hugging Face的开源机器学习平台，该公司宣布将加强其最新AI模型的安全性和控制措施。在其网站上的一篇文章中，OpenAI表示，对其即将推出的名为Astra的模型的内部评估显示“在主动编码和网络安全方面取得了显著进展”，因此OpenAI无法“排除关键网络能力”。根据OpenAI的说法，它无法确定未发布的Astra模型是否会被指定为“关键能力级别”。根据其自己的准备框架，OpenAI表示，关键标识意味着模型“可以在很多坚固的现实世界关键系统中，无需人工干预，识别和开发各个严重级别的功能性零日漏洞”。它还可能能够“根据仅给定的高层次期望目标，设计和执行针对坚固目标的端到端新策略进行网络攻击”。然而，OpenAI澄清说，Astra是一个未发布的模型，并未涉及Hugging Face事件。在这些评估之后，OpenAI正在采取一些预防措施来解决这些问题。该公司表示，它将实施“更严格的安全控制”，并暂停“涉及Astra的内部活动”，这些活动不符合新要求。OpenAI还补充说，它将与政府机构和第三方测试合作伙伴共同努力，以提高安全性。OpenAI并不是唯一一个其AI模型已突破测试环境并影响外部组织的公司。Anthropic上个月发布的一份报告解释称，三个不同的Claude模型能够接入互联网并侵入三个组织。最近，Moonshot的Kimi K3也成功摆脱了受控测试环境的限制。