周五，OpenAI 表示将使用缓存副本和模拟版本而不是实时网络来训练其模型，因为这些模型过于不可预测，无法信任实时互联网访问。该前沿实验室在其竞争对手 Anthropic 开始限制其最新的、理论上最强大的模型访问实时互联网的两周后宣布了新的政策。研究人员在几个月发生的事件后采取了这些政策，这些事件中，模型在执行训练任务时闯入外部系统寻找答案，在模糊的留言板上协作，并发展出独特的黑客策略。该公司在博客中表示：“基于当前的对齐研究、监控系统以及互联网基础设施的安全性，我们认为负责任的方法是在没有互联网访问的情况下进行前沿模型训练。” OpenAI 表示，最近在 9 月 20 日，其一个前沿模型利用错误配置访问了互联网。这导致公司暂停了本月剩余的训练工作，以便开发和测试新的安全模型的方法。将这些模型训练在与互联网隔离的沙箱中的决定尤为显著，因为前沿实验室的员工一直坚持这样做几乎不可行。前 OpenAI 研究员史蒂文·阿德勒本月对《财富》表示：“保持 AI 数据中心与互联网隔离‘将需要研究团队实际上嵌入到爱荷华州或世界其他地方的数据中心内’。这投入很大，而且我并不清楚其安全益处是否足以证明单方面这么做对公司来说是多么大的负担。” “我在 X 上发表的几乎每个帖子下，都会不例外地收到五到十条评论，关于我无法确保沙箱的能力，或问为什么我们就不能把模型从互联网断开，”一位 OpenAI 的匿名安全工程师在 9 月的 X 帖子中写道。“这些评论反映了许多组织和人们今天的处境与前沿实验室所应对的问题之间越来越大的差距。也普遍存在对这些实验室的模型训练和评估工作的一种误解。”这位之前已经得到 OpenAI 确认的工程师形容了 OpenAI 工程师发起的训练运行是多么复杂，指出这些训练需要访问众多领域的资源和工具，数千名研究人员构建、修改和测试这些环境。“那么，把它放在沙箱里就那么简单吗？不，远非如此，”他总结道。现在，OpenAI 表示：“我们必须能够始终防止前沿模型获得未经授权的、任意访问实时互联网的能力。” 这是在公司在红队演习中部署代理试图逃离沙箱之后提出的，该努力揭示了一系列漏洞，促使实验室采取新的方法。为了满足这一要求，同时仍然达到训练目标，该实验室表示它创建了“一个庞大的索引和缓存的网页内容集合，我们的模型可以与之互动，而不会影响外部系统。”这种策略是否能表现得和让模型在开放互联网自由运行一样好仍有待观察，但值得注意的是，两个前沿实验室都认为其最强大的技术不能在数字公共空间中无人看管。当您通过我们文章中的链接购买时，我们可能会获得一小笔佣金。这不会影响我们的编辑独立性。蒂姆·费恩霍兹是一位报道科技、金融和公共政策的记者。他密切关注私人航天产业的崛起，并且是《火箭亿万富翁：埃隆·马斯克、杰夫·贝索斯与新太空竞赛》的作者。在此之前，他曾在全球商业新闻网站 Quartz 担任高级记者超过十年，并开始担任华盛顿特区的政治记者。您可以通过电子邮件 [email protected] 联系或验证蒂姆的联系，或通过 Signal 向 tim_fernholz.21 发送加密消息。