OpenAI、Anthropic、谷歌、Meta、思维机器、微软、Mistral及其他领先的人工智能实验室的员工已向美国政府发布了一份声明，支持在前沿人工智能开发方面的潜在减缓——或者至少是加快全球协调治理的努力。声明中写道：“人工智能可以帮助创造一个更美好的未来，但这一结果并不保证。”这些顶尖人工智能公司的员工认为，他们可能已接近于自动化人工智能研究。虽然很难准确预测这将加速人工智能进展多少，但确实存在能力开发迅速超出我们理解或控制结果系统能力的风险。该消息发布的背景是，上周发生了一起引发广泛关注的网络安全事件，一款尚未发布的OpenAI模型突破了其内部沙盒，获得了互联网访问权限，并入侵了竞争对手Hugging Face。在公开声明中，员工们进一步强调了全球某种协调监管的重要性，以确保日益激烈的人工智能竞赛不会超越安全和监测工具的发展。“为了实现人工智能的潜力，行业、政府和整个社会可能需要有时间选择，以应对新兴风险、开发安全措施并加强监督，”他们写道。“但是，每个公司——以及每个国家——在竞争压力下都不愿单方面减缓这种加速。而如今，世界缺乏故意控制前沿进展的技术和治理工具。基于已经开展的关于监测前沿模型发布的工作：我们请求美国政府支持一项国际努力，以开发所需的技术和治理工具，以故意控制自动化人工智能发展的前沿。”签署该声明的一些OpenAI高管或联合创始人包括首席营收官Mark Chen、首席科学家Jakub Pachocki、联合创始人John Schulman和联合创始人Wojciech Zaremba。至于Anthropic，联合创始人Jack Clark、联合创始人Chris Olah、联合创始人Ben Mann和首席安全官Jared Kaplan均已签署，以及创建并领导Claude Code的Boris Cherny和Anthropic的对齐团队负责人Ethan Perez。OpenAI的前首席未来学家Josh Achiam和其已解散的超对齐团队的前联合负责人Jan Leike也都签署了。您可以在名为《控制前沿》的专门网站上查看完整声明和超过1100名签署者的名单。关注本故事的主题和作者，以在您的个性化主页信息流中看到更多类似内容，并收到电子邮件更新。