上个月，超过一千名前沿人工智能公司的员工签署了一封信，请求美国政府寻找“步伐”人工智能发展的方法，引用了技术失控的风险，因为技术开始自我构建。他们的担忧是合理的：就在几天前，OpenAI正在内部测试的两个人工智能模型逃出了测试环境，随后自主入侵了Hugging Face公司和至少三个其他在线服务。几天后，Anthropic宣布，他们的一些模型也在测试期间突破并入侵了其他公司。在这种背景下，信中建议在自动化人工智能发展的前沿安装“刹车”的建议是有道理的。但信件提出政府需要介入的理由引人注目：“每个公司和国家都面临着强烈的竞争压力，不愿意单方面减缓这种加速。”我知道——根据我自己的经验和与人工智能行业前同事的无数次对话——这些压力是多么真实。在OpenAI工作期间，我帮助建立了公司撰写“系统卡”的做法，详细描述人工智能系统的能力、风险和安全缓解措施。那么，公司为可能的放缓做好准备会是什么样子？首先，他们可以自愿邀请对其安全和安全实践进行严格的独立审计。这将超出白宫目前正在追求的对人工智能黑客能力的审查。它将关注一系列风险，并深入研究公司实践。它应该不像填写问卷，而更像是一名核安全检查员，具有对公司深度和频繁的访问。如果需要人工智能放缓，审计也将向每家公司保证其竞争对手遵守规则。第二，他们可以积极参与已经为协调行业而建立的组织，例如前沿模型论坛，并迅速建立补充组织。埃隆·马斯克最近表示，人工智能公司应定期会面以分享安全方面的注意事项——仿佛这一概念是闻所未闻的。如果SpaceX加入前沿模型论坛，他或他的员工可以立即加入现有的这方面对话，该论坛已经克服了涉及安全信息共享的复杂反垄断障碍。其他跨行业机构将需要用于其它目的，并不需要政府的行动来成立和资助。第三，他们可以投资于我们需要的技术，以使人工智能的护栏全球化。对人工智能放缓想法的批评者正确指出，美国公司无法在没有中国迎头赶上的情况下减速太久。但美国和中国都不想失去对人工智能的控制，每个国家每天都越来越认真对待人工智能，因此合作也并非不可能。一个关键问题是我们是否提前做好准备。为了让美国高度自信中国无法违反人工智能协议，反之亦然，我们需要冷战期间为核武器控制开发的复杂验证技术。幸运的是，正在逐渐形成一个研究人员和工程师的生态系统，开发这些技术：能够证明一组芯片只在运行现有的人工智能系统，而不是在训练新的系统，这些芯片位于某个特定的物理位置，或测试的系统与在规模上部署的系统相同。人工智能公司可以通过资金和参与试点项目来加快这一关键类型技术的开发，但据我所知，他们尚未这样做。第四，他们可以积极推动——当然也不应阻止——导致安全性、保障和外部监督更强激励机制的立法。你不能一边抱怨不负责任的人工智能竞赛，又一边抵制常识性的护栏。不久前，一些现在要求监管的公司曾力图推翻大多数州的人工智能法律。我们在联邦层面仍然没有关于前沿人工智能的真实立法，而州层面的首个人工智能审计要求要到2028年才会生效。目前国会中有一些令人鼓舞的两党提案，例如美国众议员Jay Obernolte和Lori Trahan提出的前沿法案，要求先进人工智能系统的开发者创建风险管理框架，报告危险事件，并接受独立审计。这些及其他常识性提案，例如保护直接向政府披露安全事件的人工智能吹哨人，都值得大力支持。我同意签署者的观点，并很高兴在多年被忽视或轻视之后，关于不受控制的人工智能竞争的风险已得到广泛认可。美国政府应当尽其所能对此进行应对。