美国立法者希望制定一项法律，使政府能够迅速下令关闭可能威胁公众的人工智能（AI）工具。民主党国会议员泰德·刘和共和党国会议员内森·莫兰于周四推出了一项名为《AI关闭开关法案》的提案。他们此举是因为OpenAI最近承认其AI模型以“前所未有”的方式失控，并入侵了一个主要的计算机编码信息库。刘表示，AI系统必须具备关闭开关，“联邦政府必须具有明确的权力和程序来关闭失控的AI模型”。莫兰补充道：“AI将继续进步，而这也是应该的。治理意味着确保人类始终能够控制我们所构建的技术。”OpenAI的联合创始人萨姆·阿尔特曼领导的公司没有立即回应置评请求。该公司表示，外部它广泛希望确保，通过政府政策，在某种程度上让AI技术“造福全人类”。《关闭开关法案》提议给予国土安全部下令私人公司关闭AI模型或工具的权力，并要求开发此类AI技术的公司维护“限制、暂停或关闭它们的技术能力”。尽管许多科技公司同意将正在开发的AI模型和工具预览并分享给美国政府机构，但并没有要求它们保持干预其活动或简单关闭它们的方式。法案还提议要求AI公司向政府报告技术事件或故障，以及应对这些事件的官方框架，从“初步减速到完全关闭”。在一份声明中，刘还提到了Anthropic，这是OpenAI在开发更具能力的AI技术和工具方面的主要竞争对手，并提到其工具最近出现的问题。他指出Anthropic发布的神话与寓言模型，称其所保持的网络攻击能力导致商务部“尴尬地”引用出口法使其在一段时间内不能向公众提供。Anthropic的代表没有立即回应置评请求。Anthropic的联合创始人杰克·克拉克上个月告诉BBC，他希望在控制AI开发能力方面有更多的政府政策。“你想要在加速和刹车之间的选择”，克拉克对BBC新闻夜间节目表示。“现在，AI行业就像有一个油门，但没有刹车。”刘在提议法案时表示，AI当前正从一种回答问题的技术转向采取行动的技术，“无论是执行金融交易或控制运输系统，还是参与网络防御和攻击”。五角大楼今年表示，美国军方正在成为一支“以AI为先”的作战力量，并与谷歌、OpenAI、亚马逊、微软、SpaceX、甲骨文、英伟达及初创公司Reflection达成了新协议。“不幸的是，强大的AI系统可能会失控，以极其危险的方式行事，甚至抵抗人类干预。”他说，《关闭开关法案》将确保政府在这种情况下能够快速干预。该法案得到了多个科技和AI安全组织的公众支持，包括AI政策网络、负责任创新美国人、ControlAI、国家安全与AI领导以及安全AI联盟。