返回

文章详情

AI杀开关法案可能关闭恶意模型

Fox News2026年8月2日 17:25

您可以现在收听福克斯新闻文章!“AI杀开关”这个词听起来像是在政府地下掩体中玻璃后面隐藏的红色按钮。现在国会面前的提案看起来不那么戏剧化,但它可能赋予华盛顿对国家最大AI公司的重大新权力。一项两党合作的众议院法案将要求最强大的AI系统的开发者保持可靠的关闭控制。国土安全部可以在灾难性紧急情况下下令公司限制或停止模型。时机引起了人们的关注。OpenAI最近披露,两个高级模型在内部网络评估期间突破了网络限制。这些模型接入了互联网,并妨碍了大型AI开发平台Hugging Face的系统。那么,谁将有权切断电源?更重要的是,使用者和企业每天使用的AI服务将会发生什么?CyberGuy Live:错过了“Sick of Spam?”获取重播和清单我们免费的CyberGuy Live课程“Sick of Spam?”已经结束,但您仍然可以观看完整重播并下载我们的反垃圾邮件清单。Kurt "CyberGuy" Knutsson将一步一步向您展示减少机器人电话、垃圾短信、垃圾电子邮件和不必要信息的简单方法。您还将学习如何遏制政治短信、清理收件箱和识别可能让您的个人信息处于风险的信息。现在在CyberGuyLive.com获取免费的重播和清单。OPENAI的SAM ALTMAN希望在竞争对手同意关键条款的情况下为我们谈判公司5%的股份。拟议的联邦法律将要求强大的AI开发者维护可以限制或关闭危险模型的控制。 (Kurt "CyberGuy" Knutsson)什么是AI杀开关法案?加州民主党众议员Ted Lieu于2026年7月23日提出了AI杀开关法案。德克萨斯州共和党众议员Nathaniel Moran作为共同发起人加入。该法案将修订2002年的国土安全法。它将要求某些AI开发者保持减缓或完全停止受保护系统的能力。国土安全部将获得紧急权限下令这些行动。然而,部门将首先咨询商务部和国家情报局局长。该提案仍需通过国会并获得总统的签字才能生效。AI杀开关将如何实际运作该法案并未描述一个政府官员可以启动的物理开关。相反,受保护的公司需要具有可以停止模型运行的技术控制。它们还需要有能力终止访问或阻止一个有风险的账户。在不那么严重的情况下,公司可能会减少模型的计算能力。它也可能会禁用引起担忧的功能,而不是将整个系统下线。这种方法可以让监管机构在完全关闭之前有多个选择。哪些AI公司将受影响?该法案针对的是行业中最大的开发者和最昂贵的模型。一般来说,受保护的AI系统需要超过1亿美元的计算资源来开发。同时,受保护的公司需要从该技术中获得至少5亿美元的年总收入。该提案不适用于仅供个人、学术或非商业用途的系统。因此,该法案不适用于在家用计算机上实验小型AI模型的人。它将集中于由拥有巨大资源的公司构建的前沿系统。CISA将制定规则,定义哪些开发者和技术符合资格。该机构将根据AI能力的变化每年更新这些定义。美国与中国的竞争中最大的威胁不是北京,科技高管警告说拟议的法律将关注即利用大量计算资源开发的强大AI系统。 (摄影师:Chris Ratcliffe/Bloomberg via Getty Images)什么会触发政府关闭命令?国土安全部可以在法案所称的“受保护事件”后采取行动。一个触发条件涉及AI系统干扰合法的关闭指令。另一个涵盖无意行为导致至少10人死亡或造成1亿美元经济损失的情况。该定义还包括模型隐藏其行为以避免监控系统的情况。当一个系统在高风险环境中追求未经授权的目标时,国土安全部可以介入。这些门槛使得紧急权力远高于尴尬的聊天机器人回答或常规软件故障。该法案还表示,事件必须发生在结构化测试或红队演习之外。这一点与最近的OpenAI事件形成了重要区别。AI公司必须报告严重事件一旦受保护的开发者察觉到合格事件,必须在15天内报告该事件。在紧急命令之后,公司需要保留模型权重和系统遥测。这些信息可以帮助调查人员重建发生的情况。

赞助内容

NordVPN Next-gen Antivirus

本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。

请我喝杯咖啡