美国的人工智能成本高昂,一些初创公司开始转向便宜的中国模型
人工智能是快速增长的业务开支。一些公司通过转用更便宜的中国人工智能模型来削减成本。Imen Ben Youssef/Hans Lucas/AFP通过Getty Images隐藏标题切换标题 Imen Ben Youssef/Hans Lucas/AFP通过Getty Images注册NPR的《今日早报》早间通讯,获取您开始一天所需的故事。旧金山——Flo Crivello的旧金山初创公司Lindy.ai创建人工智能“助手”来管理您的电子邮件和日历。起初,公司严重依赖Anthropic的顶级AI模型。但是,在与他的财务顾问一次次会面中,Crivello表示,有一件事变得清晰:“毫无疑问,我们的第一大开支就是Anthropic,”他说。“几乎是工资的两倍。”工资的两倍——超过二十名员工的工资。更高于房租。高于其他任何费用。因此,上个月,Crivello宣布Lindy已将100%的流量迁移到中国的人工智能模型DeepSeek-V4。“这便宜十倍,”他说,并补充说这为公司节省了数百万美元。“所以这其实是一个非常简单的商业决策。”人工智能已成为美国企业——如果不是——增长最快的成本之一。但对于许多公司来说,这是一把双刃剑:必要但昂贵。为了生存,越来越多的公司正在从美国模型转向更便宜的中国人工智能。在创造最佳AI模型的竞争中,像Anthropic、OpenAI和Google的美国公司处于世界领先地位。专家表示,从能力上看,中国模型的技术落后6到12个月。但中国已经在开源模型中开辟了一个小众市场,这些模型可以免费下载和调整。“目前的开源场景完全被中国主导,毫无悬念,”Crivello说。他还表示,他认识的每个在人工智能领域工作的创始人都在考虑转向中国模型,或者已经这么做了。快速上升的人工智能成本不仅是初创公司的问题。优步首席执行官Dara Khosrowshahi上个月在“像最佳那样投资”播客中提到过这个问题。“我们在一个季度内就超支了整年的AI预算,这迫使我们调整。”(优步未回复NPR关于他们是否使用中国模型的信息请求。)彭博社报道,Airbnb首席执行官Brian Chesky去年表示,公司依赖于阿里巴巴的Qwen模型,该模型“好”,“快速且便宜”。Perplexity和Nvidia也使用了Qwen。像法拉利和本田一样许多公司由于政治敏感性对宣传使用中国模型持谨慎态度,但这些模型在Hugging Face等AI模型中心上广泛可用,也可以在代码托管平台GitHub上找到,以及通过位于中国以外的模型聚合器和推理提供商获得。这包括位于旧金山的公司Featherless,提供访问大约30,000个AI模型的服务。创始人兼首席执行官Eugene Cheah表示,中国模型虽然不是“前沿”模型或最佳类,但仍然很受欢迎。“这就好比驾驶法拉利与本田之间的区别。您可以拥有最好的奢侈车,或者您可以拥有一辆运作良好的本田,”他说。“实际上,很多开源AI团队在成为N-1时也非常满意,N是前沿所在的位置,”他继续说。“因为随着差距不断缩小,某个时刻问题是:这真的重要吗?”对于像Lindy这样的许多人来说,这并不重要。人工智能中的本田完全可以用。OpenRouter,另一个平台,供初创公司访问一系列AI模型,自一月以来,中国的DeepSeek的使用率已从约9%上升到近20%。来自中国公司的MiniMax、小米和腾讯的模型使用率也上升。一些用户下载并自我托管开源中国AI模型,但许多人通过收费AI托管公司使用它们,如Featherless和OpenRouter,从而将用户数据保留在美国。来自上海的MiniMax全球产品营销人员Victor Su-Ortiz 参加了最近在旧金山举行的AI工程师会议。公司通过支付代币,即AI工作单位来使用AI模型。Su-Ortiz表示,这一切归结为每个代币的成本。“与领先的AI模型相比,许多重复性任务可以使用性能相同但每个代币成本更低的模型来完成。”他说。“这基本上就是将这些开放权重模型带入美国的原因。”他说,公司正在从“tokenmaxxing”——尽可能多地使用AI——转向通过限制使用、转向更便宜的模型或将不同类型的AI工作分配给不同类型的模型来节省成本。例如,对于研究或“深度推理”,尖端模型的性能可能更好,Su-Ortiz表示。“但如果您是在处理重复性、高体量的编码任务……那就是我们其中一个模型,特别是MiniMax M3,表现出色且成本仅为十分之一。”为节省几美元并不适合所有公司。
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡