加州民主党众议员Ro Khanna于2026年9月3日星期四在本周最后一次投票后离开美国国会大厦。汤姆·威廉姆斯 | Cq-roll Call, Inc. | Getty Images 硅谷民主党众议员Ro Khanna将推出一项监管人工智能的法案，该法案包括严格的责任标准，并禁止“递归”的自我改进AI，直到政府建立安全保障为止。这项法案是在华盛顿推动对人工智能进行监管的背景下提出的，此前一些高管警告称，这项技术可能会失控。国会在监管这项支撑经济的技术方面基本上没有采取任何行动，但如果出错，可能会造成灾难性损害。Khanna在接受CNBC采访时表示：“实际上，有一个文明灭绝的风险。失去控制的安全风险，以及误用的风险，我们需要认真对待这两者。” Khanna的法案独家简要介绍于CNBC，称为“人类对人工智能的控制法案”，将禁止那些递归自我改进或自主修改其核心目标、隔离或关闭控制的模型，直到联邦安全护栏建立并有相关机构批准这些活动。该法案还将建立一个新的联邦机构，专注于来自OpenAI、Anthropic、Google DeepMind和xAI的AI模型，因为这些公司在急剧上升的安全担忧中处于聚光灯下。该机构将负责创建安全法规、批准模型训练和部署的许可系统、前沿AI模型审计，以及设定持续测试和有效人类控制的安全标准。此外，还将要求独立审计员在每个前沿实验室内嵌入，并直接向该机构报告。该机构还将制定涵盖沙盒测试环境的标准；隔离环境，即将测试环境与互联网隔离的措施；紧急关闭开关；以及阻止模型逃离实验室环境并在互联网上游荡的控制措施。它还将负责监管前沿实验室使用的先进芯片，包括监控或控制其使用的机制。法案还将为失控的人工智能设定新的法律惩罚。将对导致平民人口被毁灭的AI模型的部署定为“危害人类罪”。法案还将对那些禁用安全措施、紧急关闭开关、日志或隔离系统的AI公司员工，或故意部署未经授权系统的员工施加刑事处罚。AI公司还将被要求持有广泛的责任保险，以便发布其模型。法案还呼吁政府追求可强制执行的协议和针对中国及其他对手的定向出口控制，以阻止他们开发危险的人工智能系统。Khanna表示，该法案代表了“迄今为止提出的最全面的人工智能安全立法”。他说，这一法案是根据他与人工智能安全组织如独立非营利组织模型评估与威胁研究、机器智能研究所和Palisade Research的对话而拟定的，而不是大型AI公司高管的要求。“我希望这成为一个模型，给人工智能安全社区发声，”Khanna说。“我相信他们被不公平地视为科幻小说，并没有得到足够的重视……他们需要推动这场辩论，而不是前沿实验室的高管。” 该法案现在与其他众多人工智能安全提案相继出现，包括来自加州共和党众议员Jay Obernolte和马萨诸塞州民主党众议员Lori Trahan提出的两党提案FRONTIER法案，该法案将安排独立审计员进入前沿实验室，并允许政府关闭存在灾难性风险潜力的模型。预计在中期选举后，众议院的法案才会进行投票，而参议院预计将在本周离开华盛顿，选举后才会返回。