‘AI路由’初创公司押注能够帮助企业应对代币成本
独家‘AI路由’初创公司押注能够帮助企业应对代币成本 斯蒂芬·考恩 你正在关注这位作者!想要取消关注吗?请通过您电子邮件中的链接取消订阅。Concentrate AI的团队。感谢Concentrate AI 对于AI成本上涨的反弹正不断加剧,而现在投资者也在向帮助企业避免这种成本震惊的初创公司倾注资金。这些初创公司被称为AI路由公司,帮助开发者将其任务指向不同的AI模型。他们还监控超支情况,并迅速解决故障——并且他们正看到需求的巨大激增。今年5月底,OpenRouter宣布筹集了1.13亿美元,估值达13亿美元。周三,新竞争者Concentrate AI以超过500万美元的资金从隐秘中浮出水面,《商业内幕》首度报道。Concentrate AI的首席执行官阿里·雅各比对《商业内幕》表示:“模型的格局是如此零散,以至于很难跟踪。通过我们,所有的模型都在一个屋檐下。” 两家公司正逢其时。AI编码工具启动了对代币的狂热需求,而代币是AI输入和输出的单位。Anthropic和OpenAI根据客户使用的代币数量向许多客户收费,因此其强大的模型令一些公司感到震惊。为了帮助客户找出最具成本效益的AI工具来完成任务,路由初创公司提供访问这些实验室前沿模型的权限,以及来自Google、DeepSeek、MiniMax和小米等提供商的一系列更便宜的模型。 大型科技公司也提供AI路由工具 OpenRouter和Concentrate AI面临着更强大的竞争对手。亚马逊云服务、微软和谷歌云分别拥有将任务路由到适当类型的AI模型的工具。初创公司表示,他们专注于开发者和小团队,并为他们提供比云提供商更多模型类型的选择。OpenRouter提供超过400种模型,战略负责人亚当·斯威克告诉《商业内幕》,开发者的“需求在过去六个月中激增”。Vercel,一家估值93亿美元的云应用初创公司,在发现其在内部使用中非常有用后,也构建了自己的AI路由产品。Vercel的AI基础设施负责人及该工具负责人哈普里特·阿罗拉对《商业内幕》表示,当人们开始强调其好处时,他的团队立即意识到该工具可能会受到客户的欢迎。他将其视为一个“集中枢”——一个在成本波动、模型下线以及更多模型进入市场时进行选择的地方。 开发者转向更便宜的模型,像DeepSeek AI路由初创公司正在看到由于出现更便宜的选项而对AI模型的需求转变。OpenRouter和Vercel都看到中国实验室DeepSeek在春季超越其竞争对手。在4月底,该实验室发布了新的V4模型。这些模型在能力基准和成本上给开发者留下了深刻印象。Claude的最便宜模型Haiku,每百万输入代币成本为1美元,每百万输出代币为5美元。在OpenRouter上,最昂贵的DeepSeek V4版本的成本仅为每百万输入代币43美分,每百万输出代币87美分。DeepSeek在Vercel和OpenRouter上的整体代币使用份额迅速增加,表明越来越多的开发者转向该实验室的模型。到5月中旬,经过OpenRouter传输至DeepSeek模型的代币数量超过了Claude模型。在Vercel上也出现了同样的趋势。Concentrate AI的创始团队成员扎克·莫斯科表示,一些客户担心中国模型的安全性,但这些模型通常托管在AWS上,位于美国。Concentrate的首席执行官雅各比表示,当公司意识到许多高质量模型以低价提供时,预算变得更简单。其他初创公司也在借机抓住对AI代币成本的恐慌。Lanai,一家AI可观测性初创公司,最近推出了一款名为Token Tuner的工具,用于诊断客户的AI支出的有效性。首席产品官莫希特·梅赫塔告知《商业内幕》,他听到了关于高端AI不稳定费用的抱怨,并预计对更便宜、更基础模型的趋势将持续增长。“你将按照价值来管理AI支出,就像你管理劳动力的价值一样,”梅赫塔说。 有什么提示吗?请通过电子邮件联系该记者,地址是 scouncil@businessinsider.com,或通过短信、Signal、Telegram或WhatsApp 联系他,电话号码是415-757-8198。请使用个人电子邮件地址、非工作WiFi网络和非工作设备;以下是我们关于安全共享信息的指南。 阅读下一篇 斯蒂芬·考恩 你正在关注这位作者!想要取消关注吗?请通过您电子邮件中的链接取消订阅。斯蒂芬是《商业内幕》的高级科技记者,报道OpenAI、Anthropic及围绕领先人工智能公司的生态系统。此前,他在SFGATE报道技术,并为《华尔街日报》、《信息报》和CNBC撰写过文章。他学习...
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡