过去一年中，人们对人工智能可能带来的潜在危险产生了担忧，关于 AI 安全的适当路径的辩论也愈演愈烈。现在，Anthropic 似乎提出了自己的愿景，阐明政府可能如何监管其行业。Politico 最近报道，这家 AI 实验室正在推销一份有关 AI 安全的新草案法案，希望国会能够考虑采纳。该立法规定了某些情况下，可以阻止 AI 模型发布的情景。这些情景涉及“可预见的、迫在眉睫的风险”——即有超过 50 人面临死亡风险，或者如果可能导致超过十亿美元的财产损失，Politico 写道。所涉及的潜在灾难风险必须“源于生物武器的创建或释放、模型逃避开发者的控制或网络攻击，”该媒体指出。这里提供的标准——50 人和十亿美元——与最近通过的加利福尼亚州法案第 53 号法案中的标准相似，该法案同样将这些情景定义为“灾难性风险”。Anthropic 的法案建议，通过使用与美国商务部注册的“独立评估者”来分析模型的潜在灾难性。这些评估者可能由 AI 实验室本身支付——只要“支付与评估结果无关，”Politico 写道。尚不清楚这个提议的系统如何确保支付不会影响评估。DeepMind 的董事长 Demis Hassabis 曾在几个月前提出，自治的 AI 监管机构应模仿金融行业的金融业监管局 (FINRA)。在 Anthropic 的草案法案中，当评估者确定面临迫在眉睫的灾难性风险时，他们将有 72 小时的时间联系商务部。商务部随后必须请求华盛顿特区的一名法官停止模型的发布。该立法将明确禁止任何联邦机构自行决定停止模型的分发，Politico 写道。Anthropic 没有立即回应 TechCrunch 的置评请求，不过一名发言人确实向 Politico 确认了这份草案法案。“该法案代表了 Anthropic 在其《先进 AI 框架》中概述的提案，自 6 月以来，我们一直在与联邦和州立法者呼吁，”发言人说。草案政策中提出的理论风险与近期科技行业关注的事件有些偏离。虽然有些人警告人类死亡的潜在风险，但主要关注点很大程度上是代理黑客的威胁。近期一系列 AI 程序显然违抗人类操作者并攻破开放互联网网站的事件，引发了对模型可能缺乏适当安全控制的担忧。为了为实验室自身助长的危机景象提供解决方案，像 Anthropic 这样的公司提出了自己青睐的解决方案。实际上，尽管实验室不断警告他们销售的技术可能导致人类文明的灭亡，但他们在很大程度上抵制强制性政府监管。相反，他们建议一个嵌入式评估者的自愿系统——这 supposedly 是“中立”的第三方观察者，置于 AI 组织内部，以便监测模型的潜在风险或滥用迹象。尽管如此，Anthropic 仅仅提出立法的建议似乎比行业内其他公司（包括英伟达，其首席执行官黄仁勋最近辩称 AI 行业根本不需要任何新法律）提供的监管提案更进一步。通过我们文章中的链接购买时，我们可能会赚取少量佣金。这不会影响我们的编辑独立性。卢卡斯是 TechCrunch 的高级撰稿人，涵盖人工智能、消费科技和初创公司。他之前在 Gizmodo 报道 AI 和网络安全。您可以通过电子邮件 [email protected] 联系卢卡斯。查看个人简介