人工智能推理云初创公司General Compute获得了来自科技投资公司Upper90的4亿美元贷款。这可能是第一笔将专为推理设计的芯片作为抵押品的交易——这些芯片旨在快速高效地运行已训练的AI模型，而不是用来首次构建模型的更昂贵的芯片。这笔融资是市场因担忧AI工具和代币价格而转向运行开源模型的基础设施的最新信号，这种基础设施比来自前沿实验室的新型大语言模型更便宜。General Compute由首席执行官Finn Puklowski创办，在5月份完成了一轮1500万美元的种子融资，以围绕来自英特尔支持的芯片制造商SambaNova的硅建立一个推理云（Neoclouds是专为AI工作负载构建的，与传统的超大规模云提供商如AWS或Azure提供的一般用途基础设施不同）。公司的SN50芯片旨在进行推理。它们高效能且不需要昂贵的水冷系统，这意味着它们比GPU可以在更广泛的数据中心更快部署。General Compute表示，这些新芯片的推理速度将比基于GPU的云快16倍。挑战在于获得大量这些芯片，尤其当你是一家全新公司时。Upper90的联合创始人兼首席执行官Billy Libby曾是高盛的量化交易员，他对此有一套操作方案：在2021年，他的公司为能源专注的数据中心初创公司Crusoe融资GPU购买，这被他认为是第一笔以先进芯片价值为抵押的贷款。当时，传统贷款机构由于GPU贬值的风险和不确定性而回避类似的交易。但随着CoreWeave将芯片担保贷款变成商业模式，并成为一个引人注目的首次公开募股基础，这种融资已经变得普遍。“当我们作为第一组融资Nvidia GPU时，市场是低效的，”Libby告诉TechCrunch。“我们确实能够作为早期参与者将一些事情拼凑在一起，获得风险补偿。”由于GPU目前相对被理解并可能出现过度购买，Upper90正转向像General Compute这样的公司，以乘坐AI繁荣的下一波浪潮。“我们认为开源模型将变得重要，去年我们寻找了一家专注于推理的参与者，”Libby说。“不是每个人都需要超级计算机，但他们确实需要推理和AI。”这个论点愈加强烈，像OpenRouter和Fireworks这样的公司通过提供访问开放模型而在高估值中筹集新一轮资金。像Kimi的K3这样的新模型，最近在本周，已证明在编码基准测试中与Anthropic和OpenAI的最新发布相竞争。新兴的芯片制造商如Groq和Cerebras也引起了收购者和公共市场的关注。General Compute能够访问Nvidia生态系统之外的芯片，出于同样的原因显得重要。另一家AI基础设施公司TensorWave正在与AMD建立类似的合作伙伴关系。随着越来越多的Nvidia替代品出现，未被锁定在Nvidia交易中的计算提供商在提供成本效益推理方面可能会具备优势。“有一批芯片开始扩展，它们具有惊人的[总拥有成本]，或者能够比Nvidia快得多，但对它们的买家不多，”Puklowski说。“通过与Upper90的合作，这不仅仅是‘一个酷炫的初创公司获得了一些钱来购买计算能力。’这还是资本自我组织和Nvidia垄断统治分裂的第一信号。”当您通过我们文章中的链接购买时，我们可能会赚取少量佣金。这不会影响我们的编辑独立性。Tim Fernholz是一位撰写科技、金融和公共政策的记者。他密切关注私营太空产业的崛起，并著有《火箭亿万富翁：埃隆·马斯克、杰夫·贝索斯和新的太空竞赛》。他曾在全球商业新闻网站Quartz担任高级记者超过十年，并以政治记者的身份开始其职业生涯，驻华盛顿特区。您可以通过发送邮件到tim.fernholz@techcrunch.com或通过Signal发送加密消息到tim_fernholz.21来联系或验证Tim的联系。