Mojo语言(由Modular,现在的高通)现已开源
四年半前,Modular做出了一个赌注:人工智能不会永远在一种硅上运行,软件堆栈需要重新架构以适应异构硬件和日益复杂的AI工作负载。在今天早上的ModCon主题演讲中,我们展示了这个赌注的发展。Modular平台现在已经准备好投入生产,每分钟服务数十亿个令牌,驱动真实的企业部署。我们正在向生态系统开放更多平台,将其扩展到全新的硬件类别,并与主要行业合作伙伴共同前进。更具体来说,Modular和高通宣布:Mojo 1.0现已在Apache 2.0许可证下完全开源。Modular云广泛可用,服务旗舰客户,如MiniMax。Modular平台现在支持AWS Trainium,Google TPU,以及Qualcomm Cloud AI 100和Qualcomm Dragonfly加速器,与CPU和GPU兼容。有关Qualcomm Dragonfly上架工作的更多信息,请查看我们的博客文章。由于与微软Windows团队的合作,Mojo即将推出本地Windows支持。MAX许可证不再含有设备使用限制,MAX将与开放联盟计划一起源代码可用,以便更广泛的生态系统可以与我们共同构建该平台。异构计算已经到来,并且有一个单一的、开放的软件平台。Mojo 🔥现在已开源。上周,我们宣布Mojo达到了1.0,提供给开发者一个稳定、准备投入生产的基础,他们可以在上面长期构建。除了众多新特性外,1.0最重要的部分是稳定性保证:今天你编写的代码不会在你使用时崩溃。今天我们更进一步。整个Mojo语言现在已在无限制的Apache 2.0许可证下开源,这意味着编译器和所有工具都是完全开源的。你可以扩展语言,将其引入新平台,并在其上构建你想要的任何应用程序。这延续了我们堆栈的渐进式开放,自2024年Mojo标准库和2025年MAX内核开始,并将从这里继续。要了解更多关于Mojo的信息并进行贡献,请访问mojolang.org。Mojo的Windows支持Mojo多年支持macOS和Linux,Windows开发者可以通过WSL使用它。本地Windows支持一直是我们开发者最常见的请求之一。每天有数百万开发者在Windows上构建,涉及各种应用和工作负载。我们相信Mojo可以在该生态系统中产生重要影响。以正确的方式将Mojo带入Windows需要对该平台的深刻专业知识,这就是为什么我们很高兴微软Windows团队和我们有着相同的机会 — 并且我们正在共同努力使其成为现实。“我们很兴奋看到Mojo带入Windows以及它为跨系统和AI工作的开发者创造的机会。数百万开发者每天在Windows上构建,我们致力于帮助他们通过他们所选择的平台获得所需的工具和技术。” – Logan Iyer,CVP,Windows平台+开发者 推出Modular云Modular云是完整的Modular堆栈作为生产服务的汇聚点。它为开发者提供了直接访问Modular行业领先的推理性能,同时抽象化了在异构基础设施上部署、优化和操作模型的复杂性。Modular云在console.modular.com上普遍可用,通过共享端点和专用部署,服务广泛使用的开源模型。共享端点与OpenAI兼容,采用按令牌计费,专用部署在我们的计算设备或您的个人设备上,在保留的隔离实例上运行。过去几个月,Modular云一直在以ModelRun的名义安静地为OpenRouter流量服务,其端点在生产流量的延迟和吞吐量上始终名列前茅。独立基准公司Artificial Analysis也传达了相同的故事。MiniMaxMiniMax是Modular云的一位旗舰企业客户,运行在专用的Modular部署上的M3,每分钟处理数十亿个令牌。高效地在规模上服务M3提出了独特的系统挑战。它结合了1M令牌的上下文窗口、本地多模态性和MiniMax稀疏注意(MSA)——一种新颖的稀疏注意力架构,可选择性关注相关的KV块,减少了随着上下文扩展所需的计算。提供最先进的性能需要在堆栈中进行优化:在MAX中本地实现M3,构建和调整专用MSA内核,并围绕MiniMax的现实流量模式优化部署。超越GPU:Trainium、TPU和DragonflyModular云已经在NVIDIA和AMD GPU上服务生产工作负载。今天,我们正在扩展该硬件支持...
本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。
☕请我喝杯咖啡