Groq到底是怎么筹集到更多资金的?
Axios刚刚发布了一则奇怪的独家新闻。Groq,这家去年12月被Nvidia收购的AI芯片公司,正在筹集6.5亿美元。究竟是什么让这家成功退出的公司能够再次筹集资金?实际上,Nvidia并没有收购Groq。它们是通过许可Groq的技术并雇用了Groq的关键技术高管,但并没有收购Groq这一公司实体。这个公司实体继续运营,专注于维护Groq的数据中心和其推理API。该API专注于在较小的模型上提供极快的推理;他们支持的最大模型是GPT OSS 120B,这可能至少比前沿模型如GPT-5.5或Claude Mythos小10倍。这是Groq架构的一个技术限制;如果每个芯片包中没有大量的高带宽内存(HBM),建立和维护一个能够服务于前沿模型的Groq集群的总成本将是巨大的。然而,他们的全SRAM策略使他们能够比传统的基于HBM的芯片更快地服务于小模型,以更低的每美元代币成本交付更多的每秒代币。对于某些应用程序而言,这是有意义的。更重要的是,Groq已经有四个大型数据中心部署,已准备好以规模化方式服务推理工作负载。为初创公司和超大规模公司建设新的数据中心一直是一个重大挑战,因此Groq的数据中心代表了一个重要的战略资产。然而,Groq的名称是否真的赋予他们真正的竞争优势,或者与LPU芯片以及特定的高速度、高成本推理策略的品牌关联是否会限制他们,仍有待观察。随着推理需求激增,现有数据中心迅速达到满负荷利用,许多公司正尽快尝试建设新的数据中心。但是,面对监管、电力问题和专业知识,即使是经验丰富、具备数据中心建设经验的大公司在其数据中心建设项目上也面临重大延迟。对于主要投资初创公司的风险投资者而言,直接接触数据中心需求是非常困难的;因为数据中心建设难度很大,实际上很少有初创公司在做这件事。Groq已经拥有四个功能性数据中心,以及建设和运营更多数据中心的人才。当Nvidia许可Groq的技术时,Groq的芯片设计团队、编译器团队和软件团队加入了Nvidia,但Groq的数据中心团队则留了下来以维护GroqCloud推理服务。这使得剩下的Groq公司成为一个独特的资产——一个拥有清晰运营专业知识的私营推理数据中心运营商,再加上由于大部分差异化技术被Nvidia收购,估值可能极低。让我们看看一些公开交易的AI数据中心公司的数字来进行比较。CoreWeave是一家价值500亿美元的公司,运营着43个AI数据中心。Nebius的市值也大约在500亿美元,尽管他们只有11个数据中心,但它们的规模超出了CoreWeave。可以说,单靠Groq的数据中心就可能使它们的价值达到数十亿美元。感谢您阅读zach的科技博客!这篇文章是公开的,所以欢迎分享。分享显然,将Groq与CoreWeave和Nebius直接比较存在几个问题。Groq的数据中心里全是LPUv1芯片,这些芯片现在已经七年了。而基于Groq架构的新LPUv3芯片正在被Nvidia卖给任何想要它们的云服务提供商。这意味着Groq最大的技术优势,即非常快速的代币,已经不再是他们独有的。另外,Groq品牌的价值为计算带来了额外复杂性。一方面,Groq是一个极其成功的案例。另一方面,被“收购”之后仍然运营是令人困惑的。他们的品牌与超高速推理紧密相关,但与较低速度的批量推理相比,可能最终未必 dominate推理工作负载。这尤其让人担忧,因为像微软和Uber这样的主要组织正在对AI编码工具的高成本发出警报。也许Nvidia给Groq提供了一个优惠交易,购买基于Groq技术的硬件,这将使Groq成为一个更加吸引人的投资。最终,Groq是否能成功为他们现有的数据中心配备新硬件,以保持竞争力仍有待观察。我也很想知道他们是否仍将致力于高速、高成本的代币经济学,以及这种策略在长期内是否会成功。
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡