聪明人对Anthropic建议全球AI暂停的看法
Anthropic联合创始人Jack Clark(中)共同撰写了一篇引发广泛讨论的博客文章。前欧洲议会议员Luis Garicano(左)和前白宫AI专员David Sacks也对此发表了看法。Anthropic希望世界领先的AI实验室聚集在一起,考虑潜在的全球AI发展暂停。“我们相信,给世界一个减缓或暂时暂停前沿AI发展的选择将有益于全球,使社会结构和协调研究能够跟上技术进步,”两位Anthropic高管在博客文章中写道。周四,Anthropic的研究所负责人Marina Favaro和联合创始人Jack Clark建议,AI实验室建立一种与国家监测核武扩散相似的合作关系,同时强调世界没有“几十年”的时间等待这样的协议实现。他们的提议起初并不顺利,科技界的一些人将其视为一家领先AI公司为其即将IPO的自利行为。Anthropic的一名发言人告诉商业内幕,该公司并没有呼吁暂停。相反,Anthropic希望其领先的竞争对手建立可以暂停开发的系统。鉴于开发进度的迅猛,该公司希望在限制被视为必要之前就对此进行研究。以下是AI、科技和政治领域的领军人物对全球AI发展暂停这一想法的看法:前美国参议员、2012年共和党总统候选人米特·罗姆尼(Mitt Romney)表示制定AI安全保障是“紧迫的国家优先事项”。“我们最高和最紧迫的国家优先事项应该是AI安全保障,”罗姆尼在X平台上写道,引用了关于Anthropic声明的新闻报道。2012年共和党总统候选人表示:“AI武器、病原体、大规模失业、监视,甚至灭绝的风险不应继续被忽视。”前白宫加密和AI专员David Sacks表示,Anthropic实际上是在乞求国有化。前白宫高级顾问David Sacks对Anthropic的建议表示严厉批评。“你可能是在试图使你的前沿AI实验室国有化的迹象:你将其与核武器进行比较……威胁到一半的白领工作……警告递归自我改进可能会导致人类灭绝……然后还是急于前进,”Sacks在X上写道。特朗普的前AI和加密专员曾公开指责Anthropic进行监管捕获计划,虽然他没有在帖子中直接提到该AI公司,但根据他以往的言论以及所写内容的细节,显然他指的就是Anthropic。“换句话说,你想让政府拯救我们免受你自己的影响,”他写道。斯坦福大学政治经济学教授Andrew B. Hall表示,谷歌DeepMind首席执行官Demis Hassabis曾表示如果所有前沿开发者都遵守,他会支持全球暂停。“这在最近看来完全不可信,但鉴于我们看到的行政命令、Glasswing和OpenAI昨天的增强模型审查提案——这听起来不再那么不可思议,”Hall在X上写道。Hall对暂停如何运作持“怀疑”态度,尤其是考虑到这将如何适用于中国公司或开源模型。“如果没有什么别的,也许可以同意减缓消费者版本的发布,而不是开发——根据我对Infinity Machine的理解,Hassabis似乎对此持支持态度,而他偏向于纯研究,”他写道。科技记者Tae Kim表示,Anthropic正在制造不必要的恐慌。“Anthropic的恐吓策略吓到普通人 + 热工作/加息在桌面上 + 对Semi分析记忆报告的误解 = 增长交易喘息,”Kim在X上写道。Kim是《Nvidia之道:Jensen Huang与科技巨头的崛起》的作者,他对这家AI公司发出了严厉的信息。“嘿,Anthropic,停止吧。”Inworld AI首席执行官Kylan Gibbs表示,Anthropic正在为塑造有利于自己的AI法规奠定基础。曾在谷歌DeepMind工作的Gibbs表示,如果你是告诉政府AI是危险的那个人,当监管时,官员会首先找你,因为他们信任你。这给Anthropic机会来按照自己的意愿塑造法规,限制开源竞争对手并控制对中国的 GPU 出口。“这也与我们看到的大型公司推动他们知道只有自己能够通过的法规的先前趋势相关,最终影响到...
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡