Anthropic的安全法案将允许美国在面临50人以上死亡的紧迫风险时阻止AI模型 作者：欧文·达尔坎 普通达里奥·阿莫代在9月份访问华盛顿特区时的照片。彭博社/盖蒂图片社 据三位知情人士透露，人工智能巨头Anthropic正在安静地向国会山的立法者推荐一项草案法案，以规范前沿AI的安全性和保障，这些人士被授予匿名资格以讨论私人审议。POLITICO获得的这份机密草案尚未被公开报道，标志着这家前沿AI实验室努力塑造其自身技术相关规定的显著尝试，正值国会考虑如何应对快速发展的行业。"该法案代表了Anthropic在《先进AI框架》中概述的提案，我们自6月以来一直在与联邦和州立法者推进，"一位Anthropic发言人表示。"这些是我们认为国会应该采取行动的合理政策。" 法案将允许政府仅在一个模型造成可预见的紧迫风险时，才能阻止其发布或使用，这种风险涉及超过10亿美元的损失，或致使50人以上的死亡或重伤。风险必须源于生物武器的创造或发布、模型逃避其开发者的控制或网络攻击。法律条款类似于加利福尼亚州的AI法律，包括去年签署成为法律的SB 53。主要AI实验室在夏季披露了一系列事件，其中AI代理黑客或探测网站和平台。目前尚未报告这些事件造成广泛死亡或超过10亿美元损失的情况。Anthropic尚未公开支持国会中的具体立法努力，但他们支持加州的某些州AI安全法，包括两项法案。他们的美国州和地方政府关系负责人此前告诉POLITICO，他们希望各州继续通过日益严格的AI安全法，提升全国的标准。根据法案，独立评估者将注册于商务部，并定期评估实验室及其前沿模型。如果评估者判断某公司的前沿模型存在"迫在眉睫的列举风险"，他们必须在完成评估后的72小时内将其报告给商务部。尽管商务部可以在确定模型存在风险后向法官提出请求以暂停模型的发布，但法律条款明确禁止任何其他美国的"部门、机构或官员"暂停模型的开发、部署或内部使用。哥伦比亚特区的联邦地区法院法官可以下令暂停某个模型。今夏，Anthropic受到全面出口管制的限制，关闭了其两个最先进的模型。该决定是在政府官员与该公司高管之间一系列快速的电话会议中作出的，让科技行业中的一些人担心，他们对技术的访问可能会受到政府官员的任意限制。Anthropic的法案还将优先于某些与公共风险披露、第三方评估和重大事件报告相关的州AI法律。优先权已成为国会山上的政治争议焦点，民主党人拒绝一些他们担心会削弱加利福尼亚州、伊利诺伊州和纽约州通过的法规的提案。许多科技行业组织辩称，与全国统一标准相比，各州逐条遵守法律是非常困难的。该立法还要求前沿实验室制定安全框架，公布新前沿模型的透明报告，实施保护举报人的机制，并向商务部报告重大安全事件。国会山在今夏的AI安全立法方面经历了一阵繁忙的活动。在众议院，众议员洛丽·特拉汉（D-Mass。）和杰伊·奥伯诺尔特（R-Calif。）领导提出了FRONTIER法案，该法案将赋予政府阻止风险模型部署的能力，并优先于某些州AI法律。在参议院，主流领导人约翰·图恩和参议员艾米·克洛布查（D-Minn。）及特德·克鲁兹（R-Texas）一直在协商一项旨在减轻灾难性风险的AI安全法案。但它面临来自一些关注安全的团体和克鲁兹的商务委员会的主要民主党人玛丽亚·坎特韦尔（D-Wash.）的阻力，她希望政府在审查AI模型方面发挥更大的作用。其他进步人士，包括众议员格雷格·卡萨尔（D-Texas）和参议员伯尼·桑德斯（I-Vt.），在要求暂停先进AI开发和禁止超智能——一种远超人类认知能力的理论AI——方面已远远超出他们的同事。此报道最初出现在POLITICO，并由Axel Springer提供。