人类公司要求这样做吗?
就在上周五,美国政府发布了一项出口管制指令,禁止人类公司将其最新模型 Claude Fable 或 Claude Mythos 的访问权限提供给外国国籍人士。我认为人类公司直接要求发生这种情况。在此之前的几天,人类公司的首席执行官达里奥·阿莫迪(Dario Amodei)发布了《人工智能指数政策》:如果经过第三方评估认为模型存在不可接受的风险,政府应当有权阻止或制止该模型的部署。此权力必须限于上述四项具体风险,并且必须有防止政治偏袒或武断决定的保护措施。达里奥以其撰写关于监管及人工智能行业,尤其是人类公司的方向而闻名,他所说的话受到非常重视,并被视为公司立场的权威声明。我这样解读他的陈述,制定法律的人以及他与之直接交谈的人也会这样理解他的陈述,而他出现在法官面前时,法官也可能会这样理解他的陈述。既然这是正式声明,让我们逐条分析,以确保他确实在要求发生在两天后的人类公司的事情。政府应当有权阻止或制止模型的部署。是的。政府正在阻止人类公司的模型的部署。如果经过第三方评估认为存在不可接受的风险,确实如此。此评估由亚马逊做出,亚马逊是一家经常且严肃的政府承包商,普遍被信任处理高安全性政府、情报和军方承包商关切。此权力必须限于上述四项具体风险。我们需要回顾一下这四项风险是什么,但前面的段落提到:网络安全、生物武器、人工智能系统的控制失控,以及可能加速这些其他风险的自动化研发。是的。它们的第三方报告指出这构成了网络安全风险,并且必须有防止政治偏袒或武断决定的保护措施。这是段落中唯一困难的部分。是否存在防止政治偏袒或武断决定的保护措施?我相信是有的,它们被称为“法庭”。达里奥和我们其他人一样有权提起诉讼,出现在法官面前,告诉法官他是政治偏袒或武断决定的受害者。这实际上是法律体系的主要目的之一。我不明白为什么我应该相信他意味着别的什么。如果他希望有某种“保护措施”,而不是现有的法律,他多年来有充足的机会可以这么说。根据我的了解,人类公司从未提出过,任何在人工智能领域工作的人应该享有与普通法律流程不同的新保护。如果人类公司真的认为应该有这样的保护,并且在推动更严格的法律时没有说出来,那似乎极其疏忽。因此,没错。达里奥要求这样做。人类公司要求这样做。他们得到了他们所要求的,一字一句。除了要求这样做,他们还要求了多年,并且无法被说服放弃这种要求。当人们表示这种方式赋予政府权力可能会有害时,人类公司并不表示同情。人类公司对此显得非常坚定。奇怪的是,尽管政府权力交接并大多变得疯狂,他们的立场却丝毫没有改变。他们继续推动政府在人工智能领域的更多权力,并继续直接或通过帕兰提尔和亚马逊等中介向政府提供服务。在我看来,他们大多数人认为这些监管适用于其他人,特别是开源项目、学术界和小型公司。现在他们正在受到自己提议的监管,他们不喜欢它。我认为这一切对他们而言极其不负责任,并且我感到一些幸灾乐祸,因为豹首先吃掉了他们的脸。大概至少是这样。今年早些时候,战争部似乎试图杀死人类公司。在我看来,这是战争部长对该公司的明显政治权力攫取。目前,法律体系似乎在这一评估上与我意见一致。这有什么不同呢?首先,没有任何笨拙的政治姿态或明显的越权行为。根据报道,这是由财政部长贝森特(Bessent)达成的,你在他对此事的任何言论中都不会找到关于人类公司“觉醒”的表述,因为他根本没有公开对此事发表过任何言论。出口管制指令是美国政府实际上拥有的明确权力,与战争部所主张和要求的内容大相径庭。
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡