微软今天宣布其第三代自家人工智能芯片Maia，旨在成为微软产品和服务的“主要AI推理系统”。Maia 300不仅提高了在云中运行AI工作负载的成本和效率，同时更能处理最新的推理模型和代理任务。Maia 300将在2027年开始投入生产，设计时已考虑到效率。微软云集团执行副总裁Scott Guthrie表示：“我们预计Maia 300每兆瓦可提供比领先的基于GPU的系统多40%的token。”在完整的96加速器配置中，它的机架规模token吞吐量是Maia 200的7倍。这些效率提升将使微软很快主要依赖其自家的AI芯片，而非来自英伟达和AMD的芯片。Guthrie表示：“我们将从2027年开始将Azure Maia系列扩展到多千兆瓦的部署，使Maia成为微软产品和服务的主要AI推理系统。”Maia 300是200的继任者，后者只是今年1月才宣布。Maia 200已在微软内部的生产AI工作负载中运行，包括微软Copilot、GitHub Copilot、微软Foundry和微软自有的AI模型。Guthrie表示：“Maia 200是我们的舰队中在真实世界的AI服务指标中表现最佳的AI基础设施。”他说：“Maia 300是一个完整的AI系统，旨在应对当今新型AI工作负载：长上下文推理、对延迟敏感的对话体验以及持续的多步骤代理任务。”微软使用了一种新的芯片结构来获得重要的效率提升。基于台积电的N2P工艺节点，最新的Maia 300结构将计算、内存控制器和I/O功能分开。“这增加了用于计算性能的硅面积，并允许每个功能使用最适合其角色的技术，”Azure硬件和基础设施团队表示。Maia 300也是微软自身AI模型工作的关键部分，可能帮助该公司实现赶超谷歌DeepMind、OpenAI和Anthropic的目标。微软AI首席执行官Mustafa Suleyman表示：“我们必须在整个堆栈中工作，甚至到硅片。”他说：“在这样的规模上，我们需要一个我们拥有的平台，与我们的模型共同设计。这就是为什么在Maia芯片上运行我们的微软AI模型对我们的团队来说是一个关键关注点。”