英伟达的无可匹敌的市场主导地位尚未结束，但来自各个方向的挑战者和选择正在涌现。ZML是一家受到图灵奖得主Yann LeCun支持的热门法国AI创业公司，已发布了推理性能软件，允许多种开源大型语言模型在多种芯片上运行，包括英伟达、AMD、谷歌的TPU、Apple Metal和英特尔Arc。根据ZML创始人Steeve Morin对TechCrunch的介绍，ZML/LLMD作为新推出的LLM推理服务器，该公司的愿望是打破现有的孤岛，最大限度地提高不同芯片在AI应用中的速度，有时甚至能够更快。随着AI的逐渐融入我们的工作和日常生活，优化推理——也就是对提示的处理——在重要性上已超越模型训练，但在幕后常常感觉支离破碎，面临软件和架构的障碍，导致供应商锁定，Morin表示。实现多种芯片的最高性能是一项技术壮举，但在对AI相关成本日益担忧的情况下，这也可能成为市场破坏者。ZML希望为企业和云提供使用混合芯片的选择，其中一些芯片可能成本更低或能耗更少。“我们的想法是让人们重新掌握构建自己系统的能力，实现真正的效率提升，让[AI]得以传播，”Morin说。这种软件辅助可能会帮助一些新兴的AI芯片制造商，Morin观察到，许多这些公司恰好来自欧洲，比如Axelera、Fractile、Kalray、OLIX、Q.ANT、SiPearl、SpiNNcloud和VSORA。但对他来说，比它们的原产地区更重要的是，ZML可以与他们一起进行“在全球范围内从未做过的事情”。这并不意味着Morin对英伟达持悲观态度。他并不悲观，部分原因是其现有供应。他告诉TechCrunch，ZML与这家AI芯片巨头的关系良好，后者正在为推理的崛起做准备。推理是如此密集投资的领域，以至于这一趋势被称为“推理淘金热”。因此，ZML面临的竞争者包括最近市值达到130亿美元的Baseten；来自开源项目vLLM创作者的Inferact；以及SGLang背后的商业公司RadixArk。vLLM和SGLang在某种程度上部分竞争LLMD，但Morin对ZML的雄心涵盖了更广泛的领域。“我们已经达到了共同设计硅的水平，”他说。他进一步表示，ZML只有20人的精简团队是这家位于巴黎的创业公司能够快速推进的原因，后续还有更多发布计划。这一小团体也得到了相对于其规模的良好资金支持。得益于他在Zenly担任工程副总裁期间的成绩，该公司在2017年以九位数的价格被Snapchat收购，Morin从包括Harry Stebbings的20VC、>commit、AALVC、Drysdale Ventures、Xavier Niel的Kima Ventures、Kindred Capital、LocalGlobe和Puzzle Ventures等风险公司筹集了2000万美元。与ZML的第一个公共项目——2024年发布并在3月更新的推理重点ML框架不同，ZML/LLMD并不是开源的。但它作为一款免费产品上线，旨在了解用户的使用情况。“我更愿意衡量，然后在最有效的地方[生成收入]，而不是因为一开始太贪婪而愚蠢地妨碍我的增长，”Morin说。目前尚不清楚ZML/LLMD何时会成为付费产品，以及其采用情况将如何。但这家初创公司的股东表明其他创始人也在关注，包括Dagger和Docker创始人Solomon Hykes、Hugging Face的Clément Delangue和Julien Chaumond，以及现与AMI Labs合作的LeCun。这也为欧洲的AI初创公司在本土发展提供了支持。“我无法在除巴黎之外的任何地方做ZML，”Morin表示。通过我们文章中的链接进行购买时，我们可能会获得少量佣金。这不会影响我们的编辑独立性。Anna Heim是一名作家和编辑顾问。您可以通过电子邮件annatechcrunch [at] gmail.com联系或验证Anna的外展。自2021年以来，她作为TechCrunch的自由记者，报道了大量与初创公司相关的主题，包括AI、金融科技与保险科技、SaaS与定价、以及全球风险资本趋势。截至2025年5月，她在TechCrunch的报道专注于欧洲最有趣的初创公司故事。Anna曾在各种规模的行业活动中主持小组讨论并进行舞台采访，包括TechCrunch Disrupt、4YFN、South Summit、TNW会议、VivaTech等大型科技会议。作为The Next Web的前LATAM与媒体编辑，创业者和巴黎政治学院校友，她精通多种语言，包括法语、英语、西班牙语和巴西葡萄牙语。查看个人简介