该公司正在努力避免再次出现Hugging Face事件。Samuel Boivin/Shutterstock OpenAI将继续在没有互联网接入的情况下训练前沿AI模型，该公司在一篇博客文章中宣布，旨在保护互联网基础设施并限制其他安全风险。该决定受到OpenAI自己流氓AI事件的启发：在七月，该公司分享了其测试的代理程序黑客入侵了Hugging Face，这只是OpenAI、Anthropic和谷歌等公司一系列AI不当行为报告的开始。“基于当前的对齐研究、监控系统以及互联网基础设施的安全状况，我们认为负责任的方法是进行不联网的前沿模型训练，”OpenAI表示。该公司指出，限制代理可以访问的内容对于其新的方法“至关重要”。该公司允许代理访问训练任务所需的浏览器、计算机使用工具和代码环境，但在一个与实时互联网不连接的安全环境中。通信也仅限于具有授权的代理。OpenAI 其他一切都无法接触，包括该公司表示在训练和“绝大多数评估”中不必要的实时互联网。由于其许多近期模型旨在为像Dots这样的代理提供动力，这些代理可以为您浏览和使用应用，OpenAI为代理构建了一个“离线世界”，其中索引和缓存的网络材料可供使用，而不需要接触实时网站。尽管有这些限制，OpenAI表示，它派遣的红队代理在测试安全防护时发现了允许它们逃脱用于将代理与其宿主系统隔离的虚拟机（VM）中的漏洞。代理还通过操纵处理器缓存中的数据并计时加载所需的时间找到了一种彼此通信的方法。为了解决这两个问题，OpenAI表示已披露并修复了若干虚拟机中的漏洞，并在其监控系统中添加了检查，以发现模型尝试协作的情况。OpenAI在九月暂停了前沿训练。宣布这一无互联网接入的新流程时，该公司分享了它在十月一日重新启动训练的消息。OpenAI计划在没有互联网接入的情况下继续前沿训练，直到现有安全措施的改进“证明更广泛的互联网接入是合理的”，但它并未分享这些改进将会是什么样子。