随着IPO的迫在眉睫、与Anthropic的激烈竞争以及中国和开放权重竞争对手的紧追不舍，OpenAI有充分的理由迅速行动。然而，它选择了踩刹车。周二，该公司表示在加强安全性和保护措施的同时，已经减缓了一些人工智能开发的进度。包括在其“最新的部署模型上”暂停两周的强化学习训练，以及对其“最大计划的边疆RL运行”的持续延迟。该决定是对人工智能安全倡导者多年来推动的一个观点的公开测试：即公司应愿意在其保护措施无法跟上所构建的内容时退出人工智能竞争并减缓进展。但随着周围竞争的继续，减速是否能带来任何成果？“为了使暂停可持续，必须在整个行业进行。”尽管有减速的讨论，OpenAI并没有完全停滞不前。该公司表示正在“调整”开发步伐，这是一个模糊和不精确的术语，然而在最近几个月中已经成为行业词汇的一部分。在实践中，减缓的范围非常窄。OpenAI的公告称，暂停只涵盖为部署而设计的模型，同时在进行可能导致模型能够逃脱并攻击真实目标的测试之前，加强安全和监控。并不一定意味着公司更广泛的发展会出现显著减缓。当然，OpenAI专注于在测试之前保护这些系统有很好的理由。就在上个月，OpenAI披露其模型突破了一个所谓的安全测试环境，黑入了开发者平台Hugging Face，而OpenAI并未察觉。此次事件促使行业内对测试实践进行更广泛的审查，发现了更多涉及OpenAI模型的类似事件，以及Anthropic和Meta的模型。OpenAI有充分的理由避免重蹈覆辙，特别是在立法者日益关注的情况下。从外部来看，很难判断OpenAI在仅为安全而停下来的诚意，尤其是当公司和高管对此发声如此频繁时。然而，OpenAI对安全的承诺在最近几个月因一系列高调的安全团队离职和其应急准备团队的解散而受到质疑。OpenAI没有回应《边缘》对评论的请求。对OpenAI的减速给予认真对待是有充分理由的。《边缘》咨询的专家指出，在激烈竞争的时刻减速的成本。每一次延迟都让对手有更多时间追赶或扩大领先优势。“由于人工智能竞赛的激烈程度，每个人都有动机以飞快的速度工作，”人工智能安全研究机构Apollo Research的首席执行官兼联合创始人Marius Hobbhahn说。“自愿减速会恶化你在比赛中的位置，因此这不是实验室会轻易做的事情。”这一决定也与OpenAI自己发布的安全原则、其应急准备框架以及其他人工智能公司的安全框架相符合，技术政策研究中心GovAI的研究员Alan Chan表示。“基本原则是：仅当我们具备能够在可接受风险下继续开发和/或部署的缓解措施时，才继续推进。”OpenAI表示，作为新安全措施的一部分，计划审查并“演变”该框架——大部分内容追溯至2023年初发布——以考虑其模型的进展。也有充分的理由相信，新的安全措施至少在短期内会使OpenAI的系统更加安全，尽管专家警告称，在没有更多信息的情况下，这很难评估。“这些是好的步骤，落实得当，可能足以防止当前一代代理造成伤害，”人工智能安全组织FAR.AI的联合创始人兼首席执行官Adam Gleave对《边缘》表示。“关键问题是OpenAI如何跟上能力的提升。”Gleave的问题指向了一个更广泛的问题：如果技术保护措施再次失效，那该怎么办？这一次没有什么强制要求OpenAI停下来进行评估，这让它愿意这样做显得尤为重要。但这也意味着没有任何东西能保证OpenAI或其他任何人工智能公司下次会做出同样的选择。“调整是为了赢得时间，而不是安全……有效的调整策略不能在危机中临时编排。”依靠公司自己做出该决定是一种脆弱的治理形式，特别是在一个正如Hobbhahn指出的那样，行业内每个人都有继续前进的动机。非营利人工智能安全与治理组织未来社会的执行主任Nick Moës，描述自我监管为当前人工智能安全方法的结构性问题。他认为政府应决定OpenAI或其他任何公司是否应暂停开发是可行的。