
OpenAI称其Jalapeño芯片能够比竞争对手更快地提供AI响应
Emma Roth是一名新闻撰稿人,报道流媒体战争、消费科技、加密货币、社交媒体等多个主题。根据周二发布的一篇博客文章,OpenAI表示,其新型AI芯片Jalapeño比其他AI系统更高效地完成任务并更快地返回响应。在与记者的简报会上,OpenAI硬件副总裁Richard Ho表示,Jalapeño提供了延迟更低、吞吐量更高的“最佳两全其美”选择,因为AI系统通常“必须在两者之间做出取舍”。Jalapeño首次于6月推出,它是一种与博通(Broadcom)合作制作的专用集成电路(ASIC),旨在用于AI推理——运行训练好的AI模型以完成任务或部署代理的过程。为了测量Jalapeño的性能,OpenAI使用了InferenceX,这是一个基准测试平台,用于展示AI系统处理推理的能力。测试将Jalapeño的性能与当时记录的最佳结果进行了比较,这些结果来自英伟达(Nvidia)的GB200或GB300超级芯片。OpenAI表示,Jalapeño在GPT-OSS 120B、DeepSeek R1和Kimi K2.5 1T中每瓦提供了比比较系统多1.5到1.9倍的AI工作,同时在这三种模型中提供了1.7到3.6倍更低的端到端延迟。这意味着根据Ho的说法,该芯片可以为用户提供“更快的响应、更灵敏的代理以及在需求增长时更可靠的访问”。OpenAI计划在今年年底之前以“小规模”部署Jalapeño,但会在2027年前逐步“增加数量”,Ho补充道。然而,该公司并未说明明年计划部署多少芯片。尽管有这些性能的改善,Ho表示OpenAI并不指望用Jalapeño取代整条芯片产品线,称其整体计算策略包括与Nvidia等“非常优秀的合作伙伴”的合作。OpenAI将继续开发新芯片的第二和第三代。关注此故事中的主题和作者,以便在您的个性化主页中查看更多类似内容并接收电子邮件更新。Emma Roth
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡