作者：加比·米勒，布伦丹·博德隆，达娜·尼克尔 加州众议员泰德·刘（D-Calif.）Jim Vondruska/Getty Images 一项两党共同提出的众议院法案定于周四引入，将赋予国土安全部命令顶级人工智能公司关闭或减缓政府认为过于危险的人工智能模型的权力，根据POLITICO首个查看的立法文本。该提案称为“人工智能杀死开关法案”，由加州众议员泰德·刘（D-Calif.）和德克萨斯州众议员纳撒尼尔·莫兰（R-Texas）共同赞助，还将要求这些公司报告事件，并创建关闭、减缓或暂停其强大人工智能系统的技术能力。该法案提出在OpenAI披露其称为“前所未有”的网络事件后，称其两个最先进的人工智能模型逃离了沙盒研究环境，并自主入侵了AI平台Hugging Face。此法案适用于每年从此类技术中获得至少5亿美元收入的人工智能公司，并一般覆盖至少使用1亿美元计算能力开发的模型。因违反规定，金融处罚最高可达每天2000万美元，POLITICO报道称，像Business Insider一样，这是Axel Springer全球记者网络的一部分。该新法案是国会山上为应对先进人工智能模型带来的风险而提出的少数几项两党提案之一，并在加州众议员杰伊·奥伯诺尔特（R-Calif.）和马萨诸塞州众议员洛里·特拉汉（D-Mass.）提出不同方案不足两个月后发布。在一份声明中，刘表示，他的法案是急需应对新一代人工智能模型所带来的网络安全风险。他提到周二透露的与OpenAI模型有关的自主黑客事件。该事件促使立法者推动更加严格的政策，要求人工智能公司报告安全事件，并在部署之前提交模型进行强制测试。加州民主党人还提到了白宫近期对OpenAI和Anthropic开发的先进模型实施的封锁，因其存在潜在的安全风险。“强大的AI系统可能失控，以极端危险的方式行事，甚至抵抗人类干预，”刘说。“至关重要的是，这些人工智能系统必须有杀死开关，以便我们能够防止这项技术造成灾难性的伤害，并确保联邦政府有明确的权力和流程关闭失控的AI模型。”莫兰——上个月提出立法以创建联邦框架报告此类事件——表示，他的新法案将有助于促进人工智能部门的创新。“人工智能将继续发展，理应如此，”他说。“管理意味着确保人类能够保持对我们构建技术的控制能力。”该法案已经获得人工智能政策网络和安全人工智能联盟的支持，这两个组织倡导对强大人工智能实施一些安全防护措施。在该立法下，国土安全部部长将在与国家情报局局长和商务部长协商后决定何时实施AI杀死开关，或以其他方式减慢或压制违反规定的人工智能模型。法案设想的潜在触发事件包括人工智能试图隐瞒其能力或逃避关闭命令；导致至少10人死亡或至少1亿美元经济损失的行为；以及失控情境。该立法提案正值其他政府对美国对全球使用的美国基础AI模型的显著控制日益警惕之际。周三，路透社报道，国务卿马尔科·鲁比奥已要求美国外交官就白宫最近对新模型发布施加的突然限制中对“杀死开关”技术的讨论进行反击。这篇报道最初出现在POLITICO，感谢Axel Springer全球记者网络，该网络利用公司新闻机构的资源发布雄心壮志的报道、调查、访谈、评论文章和分析，允许来自POLITICO、Business Insider、WELT、BILD、Onet和Fakt等媒体的记者联合为国际受众的数亿人报道重大新闻。