本周的Anthropic灵感AI恐慌,解析
Anthropic首席执行官达里奥·阿莫代i(Dario Amodei)今年早些时候抵达白宫。JESSICA KOSCIELNIAK/路透社Anthropic在本周开发者反对后改变了方针。更大的故事是公司仍在做什么,以及为什么。该初创公司表示,当用户请求有关前沿AI模型开发的帮助时,将不再秘密降低Fable 5的响应质量。相反,Anthropic表示这些请求将被转发到一个较差的模型Opus 4.8,开发者将被告知。这解决了关于Anthropic实质上给出故意较差答案并对此撒谎的恐慌。“我们对此表示歉意,”该公司说。但是,Anthropic仍在限制其最强大的公共模型在某些AI开发工作中的使用。该公司表示,这是出于安全原因,认为这些限制可以阻止“外国对手”使用Anthropic的顶级模型来削弱美国在AI和芯片方面的优势。这个解释也就到此为止。这些限制还帮助Anthropic保护其业务免受蒸馏或智能提取的影响。蒸馏是指竞争对手查询强大的模型,收集其输出,并利用这些数据来改进自己的系统。这些技术帮助开源模型提供者更快地追赶Anthropic,并在价格上对其形成冲击。Anthropic对中国实验室进行此类活动表示过警告。但来自美国和欧洲的开放模型开发者也存在同样的威胁。这才是关键点。这些限制广泛适用于任何构建竞争AI模型的人,Anthropic的服务条款也禁止任何人使用其产品开发竞争产品。阻止开放竞争对手,因此,Anthropic对西方开放模型开发者的待遇与对中国开发者的待遇基本相同。这削弱了这仅仅是为了阻止外国对手的理念。这也与阻止竞争对手有关。而我们可以理解原因。开放模型是强有力的竞争者。麻省理工学院斯隆管理学院1月份的一项分析发现,开放模型的平均表现达到封闭模型的90%,而且通常在13周内缩小差距。(一年前,他们缩小差距需要27周。)人工分析追踪AI模型的性能,这张图表展示了开源模型如何保持竞争力。Arena的排行榜显示出类似的压力。周四,Anthropic的模型仍位于数学、编程和创意写作等专家基于文本的任务的顶端。但小米的开放权重MiMo v 2.5 Pro并不远 behind。一张展示不同模型性能随时间变化的图表 Arena 然后看看价格。那个小米的开放模型每百万个输入标记费用43美分,每百万个输出标记费用87美分。而Anthropic的Fable 5每百万个输入标记费用10美元,每百万个输出标记费用50美元——根据Arena的数据,至少贵了20倍。“几乎一样好”和“便宜得多”必须让花费数十亿美元建立前沿模型的人感到恐惧。难怪Anthropic会如此限制竞争对手。“这确实看起来像是一项商业举措,”西蒙弗雷泽大学的计算机科学教授尼古拉斯·文森特(Nicholas Vincent)说,他研究数据在AI模型中的运用。“如果没有更加明确地针对某些‘坏组织’,很难辩护这是出于安全考虑而非商业考虑。”Anthropic并不欠竞争对手通向其最佳技术的捷径。但它应该诚实地说明发生了什么:部分是出于安全原因,但也涉及商业。
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡