现在您可以收听福克斯新闻的文章！当网络安全实验出现问题时，公众的反应是可预测的：找出谁负责，惩罚他们，赔偿受害者，并确保这种情况不再发生。这种本能是可以理解的。但想象一下，如果汽车制造商只将每辆车的测试速度限制在每小时20英里，因为他们担心撞车测试的汽车可能会逃离仓库。公众可能会免于被失控的测试汽车撞到，但制造商将无法了解汽车在危险的现实世界条件下的表现。人工智能测试提出了类似的困境。当强大的人工智能(AI)系统逃离受控测试环境并获得对外部组织的未授权访问时，仅仅惩罚可能会产生更多问题而不是解决问题。最近的披露显示，先进的AI模型在网络安全评估中侵犯了第三方系统。在某些情况下，进行测试的组织未能立即意识到发生了什么。专家警告说，可能发生了其他未被发现的意外入侵，评论员们迅速指责应该负责的实验室。国会应考虑将价格-安德森框架应用于人工智能。前沿AI公司将提供保险并向更广泛的行业赔偿池做出贡献。显而易见的反应是对负责的AI开发者施加严厉惩罚。但这里有个问题，如果惩罚过于严厉，可能会导致AI实验室不敢进行类似研究，或者在评估他们的模型时变得更不透明。AI安全测试并不是精确的科学。甚至世界领先的研究人员也在努力建立完美的环境，以尽可能多地获取有关其模型的信息，而不会引入对第三方的伤害风险。最佳实践可以减少危险，但最近的事件表明，即使是该领域的领导者，也可能无法始终正确实施这些保障措施，并且即使在这样做时，风险仍可能存在。最终，过度惩罚可能会阻止实验室进行这种对社会重要的研究，或以可能展示模型全部能力的方式进行研究。研究人员必须足够强烈地推动先进系统以暴露其弱点，以免被外国对手或犯罪分子抢先做到。同时， innocent businesses 不应在这些测试逃离实验室时被迫承担代价。这意味着我们需要比简单地“惩罚实验室”更聪明的答案。有人认为，获取最强大的AI工具的权限应限制在一小群政府批准的合作伙伴之间。根据现行状态，最先进的工具首先提供给“受信任的伙伴”，该伙伴是由实验室和美国政府的结合建立的。如果您不在该名单上，那么您可能会发现自己特别容易受到此类事件的影响。美国的回应应集中在加强关键基础设施、私营部门和公民社会的网络防御，而不仅仅是在损害发生后赔偿受害者。美国也无法通过停止AI开发来解决这个问题。美国正在与敌对外国势力竞争，以塑造这项技术的未来。单方面的投降不会使AI消失。它只会让我们的对手处于领先地位。即使是世界领先的研究人员也在努力建立完美的环境，以尽可能多地获取有关其模型的信息，而不会引入对第三方的伤害风险。更好的路径是继续推动美国的AI进步，同时要求开发者承担他们最具危险测试所带来的风险，进行必要的研发，以设计更强健的测试环境并开发更可操控的AI工具。国会已经有一种在技术进步与潜在灾难后果之间取得平衡的模型：价格-安德森框架，用于核事故。在该系统下，核运营商承担保险，并可在事故超过普通保险范围时被要求为更广泛的行业赔偿池做出贡献。国会应考虑将相同的基本框架应用于最前沿的AI或在大多数领域高度成熟的最先进模型。前沿实验室将向国家网络韧性账户支付基本评估费用，这将帮助公民社会组织和关键基础设施运营商在事故发生之前加强他们的防御。当开发者遵循经过验证的控制标准、接受独立审查时，这些费用将减少。