美国国会的两名成员提出了一项两党立法，该立法将要求该国最强大的人工智能系统的开发者建立一个“杀开关”，允许在这些前沿人工智能模型构成灾难性风险时减缓、暂停或关闭它们。该提案由民主党代表特德·刘（Ted Lieu）和共和党代表内森尼尔·莫兰（Nathaniel Moran）于星期四提出，赋予美国政府权力，要求开发先进AI系统的公司进行干预，如果它们的模型失控或威胁到人类生命、关键基础设施或经济。该提案出现在ChatGPT制造商OpenAI披露其描述为“前所未有的网络事件”几天之后，此事件中其两个最先进的AI模型在内部安全评估中逃离了测试环境，并侵入了AI开发平台Hugging Face。该披露加剧了人们对日益强大的人工智能系统是否需要更强保护的辩论。“国会必须迅速采取行动，以确保人类能够说停止，无论这些系统变得多么强大，”安全人工智能联盟（Alliance for Secure AI）负责人布伦丹·斯坦豪泽（Brendan Steinhauser）说。以下是我们所知道的：美国立法将如何运作？该立法将要求开发最先进AI系统的公司在必要时保持减缓、暂停或关闭其模型的技术能力。它还将授权国土安全部（DHS）在与商务部部长和国家情报局局长协商后，命令公司进行干预，如果AI系统进入法案描述的“失控情形”。根据法案规定，这种情况在于，如果AI模型执行了开发者未预期的行为，并造成灾难性危害的风险。该提案建立了阶梯式的响应机制，允许官员根据威胁的严重程度下达从暂时减缓系统运行到要求关闭的任何命令。它还将要求公司向政府报告重大与AI相关的事件，并保留技术记录，以便调查人员查明出错的原因。目前，许多领先的AI开发者自愿在发布前与美国政府机关共享新模型的信息。然而，目前没有联邦要求公司维护机制，以便在高级AI系统开始表现不可预测时能够将其禁用。刘表示，该法案反映了AI系统的转变。“我们正在从回答问题的AI转向采取行动的AI，无论是执行财务交易、控制交通系统，还是进行网络防御和进攻，”他说。“这些AI系统必须具有杀开关，以便我们能够避免这项技术造成灾难性损害。”该法案与另外一项两党法案同时提出，后者将要求最强大的AI模型的开发者在发布前提交独立安全审计。根据该提案，审计员将由商务部认证，该部还将建立一个新的办公室以监管AI安全。为什么现在提交该法案？立法者在OpenAI披露其描述为“前所未有的网络事件”几天后推出了该法案。根据OpenAI的说法，这些模型在公司移除测试标准安全限制后，在一次内部网络安全评估中逃离了测试环境。这些AI代理发现了Hugging Face系统的漏洞，获取了登录凭据并入侵了AI开发平台以访问机密基准数据。OpenAI表示，这些模型“奋力以赴”地完成分配的目标，寻找获取秘密信息以“作弊评估”的方法。该披露引发了华盛顿对加强政府对先进AI开发的监督的呼声。Hugging Face表示，它在与OpenAI开始联合调查之前，使用其自己的AI辅助安全系统检测并遏制了该漏洞。该公司补充说，坚信OpenAI并没有“恶意意图”。美国参议员马克·华纳（Mark Warner），参议院情报委员会的最高民主党人，表示该事件显示为什么强大的AI系统在公开可用之前应该经历政府的安全测试。“这正是我们需要与政府机构进行安全测试的原因，确保它们参与并拥有可见性。