返回

文章详情

英伟达的人工智能优势超越了GPU

TechCrunch2026年8月29日 13:00

在本周之前,关于英伟达的主导故事大致是这样的:在人工智能繁荣的头几年,英伟达是唯一一个提供尖端GPU的来源,随着行业的扩展,它变得极其盈利。在过去的几年中,亚马逊和谷歌等超大规模公司开始自行制造芯片,英伟达不再是唯一的选择,许多投资者开始质疑其优势究竟能持续多久。这是一个引人注目的故事,并且大部分是正确的。在2023年初到2025年中间,英伟达的市值增长了10倍,但在过去一年里,由于对GPU竞争的担忧,英伟达股票的涨势相对温和。自公司周三公布财报以来,一个新的叙述开始成型,投资者们正在意识到英伟达的优势远远超出了GPU。随着人工智能计算能力达到千兆瓦级别,调度变得越来越复杂。毫不奇怪,英伟达构建了大量用于处理这些任务的尖端硬件,即使在GPU竞争加剧的情况下,这也使得公司在围绕GPU的系统中拥有巨大的优势。尽管有人将计算视为一种商品,但在峰值效率下运营一个大规模数据中心仍然极其困难——而随着部署变得越来越大、速度越来越快,这一挑战只会加剧。逐架来看,您可以通过查看英伟达实际销售的产品细节,看到一些这一点。该公司目前正在推出其Vera Rubin架构,该架构将Rubin GPU与一系列其他单元配对,包括Vera CPU、Groq 3 LPX推理加速器以及相似的存储和网络机架。在过去一周,我一直在与英伟达的人员讨论这些系统实际的功能,结果令人惊讶。与Rubin GPU本身一样,它们都是极其专业化的系统,但并不是在处理令牌,而是在确保GPU之外的一切都尽可能高效地工作。如果GPU是发动机,那么这些就是汽车的其他部分。尤其是Vera CPU专注于调度数据的问题。 "Vera非常重要,因为在单个服务器或任何计算平台中,您只能放置有限的内存," 英伟达存储技术副总裁Jason Hardy告诉我。随着数据中心计算能力的扩大,内存容量也在增加,这就是为什么像美光这样的公司在基础设施繁荣的第二波中变得富有。但在正确的时间将数据传输到GPU并不是简单的事情——而随着公司希望降低每瓦特处理令牌的数量,他们意识到这种流量导向是多么重要。 "我们看到这些操作的改善高达3倍,Vera CPU可以加速这些操作," Hardy说。"所以现在我们可以充分发挥闪存的潜力,因为我们可以在不造成瓶颈的情况下获得所有性能。" 在英伟达之外,您也可以看到相同问题的不同版本。当OpenAI开发其Jalapeño芯片时,主要关注点是通过最小化需要移动的数据量来完全避免这些挑战。 "我们设计了Jalapeño以最小化数据移动和通信延迟," 该公司在本月早些时候的一篇博客中提到。"其较大的域允许整个工作负载保持在一个连接的系统内,最小化数据移动,并帮助完整请求从始至终保持快速和高效。" 这是一种不同的方法,通过在一个集成的芯片内进行工作负载来完全避免数据移动。但总体逻辑是相同的,用更智能的流量控制来提高效率,而不仅仅是增加处理器周期。这反过来又为公司竞争开辟了全新的基础设施层。这种对数据调度的新关注并不自动意味着英伟达占据了优势。公司将不得不与竞争对手芯片制造商和超大规模公司竞争,就如同它对待GPU一样。但竞争已经转向了新层面,构建竞争GPU的重要性不再如以前那么高,而能够使整个系统高效工作才是关键。在至少初期阶段,英伟达似乎拥有压倒性的领先地位。当您通过我们文章中的链接进行购买时,我们可能会赚取少量佣金。这不会影响我们的编辑独立性。Russell Brandom自2012年以来一直在报道科技行业,专注于平台政策和新兴技术。他曾在The Verge和Rest of World工作,并为Wired、The Awl和MIT技术评论撰稿。他可以通过russell.brandom@techcrunch.com或在Signal上通过412-401-5489与他联系。查看个人资料

赞助内容

NordVPN Next-gen Antivirus

本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。

请我喝杯咖啡