如果这是真的,超大规模云计算公司就完蛋了
在我的定期研究中(需付费查看),我已经说了一段时间我认为AI的未来不是大型语言模型(LLM),而是小型语言模型(SLM),这些模型可以在本地桌面计算机甚至移动电话上运行。今年五月,斯坦福大学的一个团队发布了研究,比较了这些SLM与在数据中心运行的LLM的性能。如果他们的结果是真的,那么未来我们几乎不需要任何数据中心,超大规模云计算公司在投资上浪费了数千亿美元。说真的,如果你是一个试图找出在哪里投资AI热潮的投资者,你需要完整阅读这篇论文。为了让你入门,我给你一些亮点。首先,他们运行了一系列可以在本地PC上下载的SLM(QWEN 3、GEMMA 3、GPT-OSS、GRANITE 4.0),并将其性能与基于云的最先进LLM(ChatGPT 5、Claude Sonnet 4.5、Gemini 2.5 Pro)进行了比较。他们在配备Nvidia芯片或Apple M4芯片的本地PC上运行这些SLM,因为它们在当前的高端桌面计算机中很容易获得(整个研究是在Nvidia推出其PC AI芯片之前完成的,此举只会加速从数据中心向在桌面上运行模型的转变)。然后,他们跟踪了这些SLM与LLM在2023年至2025年10月之间的聊天任务和推理任务的表现。下面的图表显示了SLM与LLM在聊天请求中的胜利/平局比,在今天,这仍然占据了绝大多数请求。正如你所看到的,在每个领域,最佳的SLM能够在90%或更多情况下找到与LLM相同或更好的答案,各个领域的平均比例为98.6%。SLM与LLM在聊天请求中的胜利/平局比来源:Saad-Falson等(2026)当涉及到推理任务时,显然更具挑战性,SLM的进步非常快。平均而言,它们在62.5%的情况下提供比LLM更好或至少同样好的答案。SLM与LLM在推理任务中的胜利/平局比来源:Saad-Falson等(2026)然而,在现实生活中,SLM和LLM的任务通常是聊天请求和推理任务的混合,因此第三个图表显示了基于每个领域中任务频率的聊天请求性能和推理性能的加权平均。如你所见,平均而言,SLM在81.2%的情况下表现与LLM一样好,甚至更好,LLM在工程、生命科学、运输和计算机科学等领域仅具有显著优势。SLM与LLM在聊天和推理任务中的胜利/平局比来源:Saad-Falson等(2026)但这不仅仅是准确性。SLM在能耗和计算成本方面的表现比LLM低50%到85%,具体取决于所使用的SLM和计算机硬件。此外,SLM在推理任务中的进步也在迅速赶上。最后一个图表显示了SLM在推理任务中的表现与难度等级和模型代际的关系。2023年,SLM在推理任务中的成功率在所有五个难度等级中通常约为50%。到2025年10月,SLM在1级和2级的最简单推理任务中达到了99%的成功率,在更难的任务(3级和4级)中达到了85%至92%的成功率,仅在5级的最难任务中落后于LLM(成功率为51.5%)。SLM在推理任务中的成功率来源:Saad-Falson等(2026)这已意味着在五种用例中,可以替代数据中心及其昂贵的尖端半导体基础设施。研究报告估计,美国SLM的可寻址市场已经增长至约10万亿美元,相当于整个美国GDP(30万亿美元)的三分之一。LLM的生存空间已所剩无几,而且每年,它们对SLM的优势都在缩小。显然,还有一些领域LLM仍然遥遥领先,特别是在代理AI应用中,SLM目前只能实现不到50%的准确性和成功率。同样,目前在智能手机上运行这些SLM也比较困难。在iPhone上可以运行的模型远不如在桌面PC上可以运行的模型。但 —— 这很重要 —— 在桌面PC上运行的模型,甚至在智能手机上运行的模型,能效远高于在云中运行的模型。这些SLM每瓦特的推理效率通常是LLM的七倍。这意味着当你遇到可以在桌面或移动设备上解决的任务时,本地执行要比将其发送到数据中心便宜。这对投资者而言具有重要意义:我们需要的数据中心远少于我们所认为的。如果我们能用SLM替代70%到80%的预计将在LLM上运行的任务,那么超大规模云计算公司在未来就根本没有足够的收入增长来证明其资本支出。实际上,如果这项研究的结果属实,且这一趋势持续下去,数据中心可能是AI领域最糟糕的投资之一。
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡