萨提亚·纳德拉表示，模型制造商抱怨蒸馏过程是虚伪的。彭博社/盖蒂图片社 萨提亚·纳德拉对AI实验室抱怨蒸馏攻击表示批评。模型蒸馏涉及使用更先进的预先存在的AI模型来训练AI。纳德拉暗示，模型制造商抱怨蒸馏过程是虚伪的。蒸馏是指根据更强模型的输出训练较弱模型的过程。他在周日的X帖中说，模型制造商抱怨蒸馏是虚伪的。他写道：“虽然模型提供者拥有公平使用权并在公共数据上训练模型所带来的巨大创新是必要的，但我发现，现状是反过来对蒸馏施加限制条款，并保留从客户使用和互动数据中学习的权利，这实在是讽刺。”他补充说，如果学习只在一个方向流动，那么学习基础设施的所有者就会赚取所有的钱，而知识的创造者则被抛在一边。像Anthropic、OpenAI和谷歌DeepMind这样的前沿AI模型制造商依赖他人创造的工作来训练自己的模型。ChatGPT、Claude和Gemini从公开可用的写作、图像和其他数据中获取他们的“智能”。许多公司和个人已经因非自愿内容“抓取”起诉领先的AI实验室。尽管没有点名，但纳德拉的评论似乎特别针对Anthropic。今年早些时候，Anthropic的首席执行官达里奥·阿莫代抱怨称，中国模型制造商正在窃取他公司的工作，利用Claude来训练他们自己的模型。上个月，Anthropic给南卡罗来纳州参议员蒂姆·斯科特和马萨诸塞州参议员伊丽莎白·沃伦写了一封信，称阿里巴巴最近对它进行了迄今为止“最大规模的蒸馏攻击”。“竞争对手可以利用它在极短的时间内以极少的成本，从其他实验室获取强大的能力，而无需独立开发，”Anthropic在二月份的一份长篇声明中表示。当时，阿里巴巴并没有对Anthropic的指控作出公开回应。在周日的博客中，纳德拉警告称，依赖领先模型的公司实际上是在将其专有数据移交出去，然后支付费用来使用这些数据。他说，公司应该拥有自己的AI基础设施和机构知识，而不是依赖任何单一的模型供应商。他们还应该进行自己的评估和自己的“学习循环”，使他们的AI能力随着时间的推移不断提高。“这就是为什么企业需要为其人力资本和代币资本建立真实的信任边界，以实现复利增长，”他说。“这是一条硬性边界，没有任何东西能够越过，即使是智能耗尽，也需要征得同意。”埃隆·马斯克也批评了Anthropic如何收集数据和训练其模型。他在二月份的X帖中写道：“Anthropic因大规模窃取训练数据而受到指控，并不得不为这笔盗窃支付数十亿美元的和解。这只是一个事实。”在Anthropic就中国模型提出投诉后，Anthropic没有立即回应商业内幕的置评请求。