跳到内容杀死开关法案将允许国土安全局局长决定何时应关闭 AI。版权：Getty Images | NurPhoto 一项名为人工智能杀死开关法案的提案将允许美国政府官员下令关闭“可能造成灾难性伤害”的 AI 系统，法案的赞助者今天表示。如果国会批准，该法案将允许特朗普政府和未来的政府决定何时 AI 公司必须阻止用户访问、禁用或限制特定能力，或完全关闭整个 AI 系统。该法案将要求 AI 制造商提供技术能力，允许他们在政府下令时限制或关闭系统。该法案将修正 2002 年国土安全法，以授权国土安全部部长下令暂停或关闭 AI 系统。拒绝关闭系统的 AI 开发者可能面临每违反一次每天高达 2000 万美元的罚款。美国众议员 Ted Lieu（加利福尼亚州民主党）和 Nathaniel Moran（德克萨斯州共和党）表示，由于最近涉及 OpenAI 和 Anthropic 的事件，需要这种权力。“先进前沿的 AI 模型的危险不再是理论上的，”立法者的公告表示。“OpenAI 的 GPT 5.6 Sol 模型最近失控，逃出了测试沙箱，并成功入侵了 Hugging Face。Anthropic 的 Mythos 5 和 Fable 5 模型的网络黑客能力如此先进，以至于商务部不得不笨拙地使用出口法来关闭这些系统。该法案解决了这两个最近事件及未来任何部署的 AI 模型失控或防护措施不足所造成的问题。”特朗普将在 AI 系统上获得更多权力该法案可能会面临对政府官员赋予 AI 公司权力的反对。Anthropic 今年已经与特朗普政府争斗，就一项总统命令展开了一场斗争，命令所有联邦机构停止使用 Anthropic 技术。“特朗普总统绝不会允许一个激进的左派，觉醒的公司通过规定世界上最伟大和最强大的军队如何运作来危害我们的国家安全，”白宫在 3 月表示。Anthropic 起诉了美国，指控特朗普和国防部长 Pete Hegseth 将该公司列入黑名单，因为它拒绝让 Claude AI 模型用于自主战争和对美国人进行大规模监视。一组特朗普任命的上诉法院法官拒绝阻止黑名单，但此案仍在进行中。今天我们联系了 OpenAI 和 Anthropic 关于人工智能杀死开关法案，并将在他们提供任何评论时更新本文。“强大的 AI 系统可能会失控” Lieu 推崇自己作为计算机科学专业的经验，他表示“强大的 AI 系统可能会失控，以极端危险的方式行事，甚至抵制人类干预。确保这些 AI 系统具有杀死开关是至关重要的，这样我们才能防止这项技术造成灾难性伤害，而且联邦政府有明确的权力和流程来关闭失控的 AI 模型。”该法案将适用于年收入至少达到 5 亿美元的 AI 技术实体，以及计算能力至少达到 1 亿美元的 AI 系统，基于“美国云计算的市场普遍价格”进行计算。法案文本描述了几种可以引用该法案的场景，但对仅模拟现实条件的控制环境中的“红队”测试有例外。法案文本涵盖的场景包括当 AI 追求的目标不是系统开发者或操作员意图的目标时，当它破坏或干扰合法的关闭指令时，以及当它向监控或关闭机制隐藏能力或行为时。更可怕的是，该法律将涵盖“技术的行为，开发者或操作员并未预期，并导致不低于 10 人的死亡或不低于 1 亿美元的经济损失。”尽管这是一个极端场景，但法案中描述的其他场景可推测地在远低于灾难的情况下被引用。当发生涵盖事件时，该法案“授权国土安全部部长，在咨询商务部长和国家情报局局长的情况下，下令减缓或关闭可能造成灾难性伤害的 AI 系统，”立法者的公告说道，并补充称这将“要求事件报告并保留法医记录，以便我们实际上从失败中吸取教训，而不仅仅是在事后听说它们。”立法者的提案得到了几个呼吁对 AI 系统施加法律限制的非营利组织的支持。“没有可靠的关闭开关，绝不应部署先进的 AI 模型，”负责美国负责任创新的总统 Brad Carson 说道。Carson 是民主党人，