这款AI快捷方式可能会摧毁行业利润
Getty Images; Alyssa Powell/BI 在科技界,AI蒸馏最初是一个无害的研究想法。现在它已经变成了一个威胁数万亿AI投资基础的阴影经济。该技术涉及使用一个AI模型的输出训练另一个AI模型。什么是允许的,什么是不允许的要么不清楚,要么存在激烈的争论,许多AI公司在其开发过程中的不同阶段使用来自竞争对手的模型输出。美国的AI巨头花费数十亿资金在数据、人才和计算能力上,试图打造领先模型,希望收取高价。如果这些模型可以通过蒸馏快速且廉价地复制,那么这些投资的回报可能会削弱。埃隆·马斯克在与OpenAI的法律斗争中表示:“一般来说,AI公司会蒸馏其他AI公司的模型。”这种广泛方法的变体可能会导致行业竞争消耗掉大部分利润。蒸馏帮助竞争对手快速开发几乎与来自Anthropic、OpenAI和谷歌的前沿系统同样好的模型,但成本要低得多。前Meta高级产品经理曲晓银最近在X上写道:“他们聘请了最佳人才,烧了数十亿,搭建了最新模型,只是最终被中国的免费模型抹去所有利润。这一定让人感觉非常糟糕。”蒸馏挑战AI的经济学。Anthropic最近恰当地将此问题框架化,指控中国科技巨头阿里巴巴使用恶意蒸馏技术,例如创建数万个虚假的Claude账户来批量获取其回答。“这颠覆了支撑美国AI领导地位的经济逻辑,将价值数十亿美元的研发、计算和其他美国投资转变为我们竞争对手的补贴,”Anthropic政策主管Sarah Heck在给美国顶级政客的信中写道。OpenAI警告称,蒸馏最终可能会创造出超越今天前沿系统的模型,表示“通过混合多个美国模型的输出,‘对手们可能在超越任何单一教师模型的方式中复制甚至结合前沿能力。”投资者似乎很担忧。在中国公司发布新模型后,AI股票在最近几个星期出现下滑,其中包括Z.ai(前称Zhipu AI)的GLM-5.2。一些AI研究人员认为,该模型得益于从领先的美国系统中蒸馏出的知识。“是的,他们蒸馏了Claude和GPT 5.5,”谷歌的AI芯片软件工程师Patrick Toulme在X上写道,指的是来自Anthropic和OpenAI的模型。AI蒸馏有一个无害的开始,蒸馏并不总是如此具有分歧。2015年,谷歌的顶尖AI研究人员描述了一种技术,其中实验室使用自己的大型模型训练较小的模型。继ChatGPT在2022年发布后,AI进入了全球竞赛。蒸馏超出了公司的自有模型,成为通过利用竞争对手的输出来加速开发的一种方式。最近在播客上工作过字节跳动大型语言模型的AI研究员张驰表示,许多中国AI公司在很大程度上依赖于蒸馏,而非建立自己的高质量训练数据。公司可以询问像ChatGPT、Claude或Gemini这样的模型生成详细的解释和答案,而不是支付人类专家撰写这些内容,然后使用这些回应进行训练。在今年五月的另一场播客中,谷歌DeepMind研究员姚顺宇表示,中国公司由于对先进AI芯片的访问受限,已经将蒸馏变成了一种竞争优势。他在这里区分了“愚蠢的蒸馏”,即简单复制另一个模型的回答,和“聪明的蒸馏”,即多个AI模型生成、评估和改善彼此的回应,以创建更好的训练数据。根据这段播客的翻译,姚建议中国实验室可能会在这些更高级的技术中成为领导者。今年早些时候,OpenAI的一名律师询问马斯克xAI是否曾蒸馏过OpenAI的模型。马斯克回答说,这是行业普遍现象。在被问及这是否意味着xAI已经这样做时,他回答说:“部分是。”Anthropic、OpenAI和谷歌多次投诉他们所描述的恶意蒸馏,指责包括DeepSeek、Moonshot、MiniMax和阿里巴巴在内的中国公司滥用该技术,并呼吁监管机构采取行动。然而,美国公司也利用彼此的工作来改善自己的模型。例如,谷歌支付Scale AI的临时工生成ChatGPT的回答并改进它们,试图追赶OpenAI。许多研究者并不认为这算作蒸馏。尽管如此,AI实验室的服务条款禁止使用他们的服务构建竞争模型,无论是如何进行的。'蒸馏恐慌' 并非每个人都同意何处是合法研究的终点与滥用的开始。AI研究员Nathan Lambert表示,蒸馏的原始形式与滥用的现象正在混淆。
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡