在周三，OpenAI 揭晓了其首款定制的推理处理器，这款处理器是与博通公司合作设计和制造的。新处理器名为 Jalapeño，专为 OpenAI 推理系统的独特需求而设计。OpenAI 表示，公司的 AI 模型协助了芯片的开发。虽然这款芯片仍在测试中，但 OpenAI 表示早期结果显示其每瓦性能远超当前的最先进替代品。这项合作关系在十月份正式宣布，但关于 OpenAI 芯片计划的传闻由来已久，外界认为这是公司减少对英伟达 GPU 依赖的一种方式。谷歌和亚马逊也都开发了定制芯片，以服务于类似的目的，通常被称为“AI 加速器”——为加速机器学习工作负载而专门设计的硅晶体管。OpenAI 总裁 Greg Brockman 在博通合作关系宣布后不久，在公司内部播客中解释了公司对芯片开发的看法。他在节目中表示：“我们对工作负载有深刻的理解。我们一直在寻找未被充分服务的特定工作负载，并在问：我们如何能够构建一些能够加速可能性的东西？” Jalapeño 专门设计用于推理，即根据用户命令运行预构建 AI 模型的过程。在公告中，OpenAI 强调了使用该芯片实时运行编码模型时的低运营成本。尽管像预训练这样更具性能密集型的任务仍可能依赖于英伟达的硬件，但即使是小幅降低推理成本也可能对公司的盈利状况产生重大影响。优化这一推理系统可能成为未来 AI 经济学中的关键因素——而且这很可能会在技术栈的每个层面上进行。OpenAI 已在构建代理产品，例如 Codex 及其驱动的模型，以及运行这些模型的数据中心。进入专用芯片使得公司在这个过程上走得更远，正如公司在公告中解释的那样：“OpenAI 不仅仅是开发前沿模型或在其基础上构建产品；它还在设计这些模型下面的基础设施：芯片架构、内核、存储系统、网络、调度、部署系统和产品体验。”公司写道：“由于 OpenAI 在整个技术栈上运营，每一层都可以围绕同一个目标进行优化：使其模型更快、更可靠，并让用户更加实用。”当您通过我们文章中的链接进行购买时，我们可能会赚取一小部分佣金。这不会影响我们的编辑独立性。Russell Brandom 自 2012 年以来一直报道科技行业，主要关注平台政策和新兴技术。他曾在 The Verge 和 Rest of World 工作，并为 Wired、The Awl 和 MIT 的《技术评论》撰写过文章。他可以通过 russell.brandom@techcrunch.com 或在 Signal 上的 412-401-5489 联系。查看个人资料