今天，我们介绍Kimi K3——我们最强大的模型。Kimi K3是一个具有2.8万亿参数的模型，建立在我们Kimi Delta注意力机制和注意力残差之上，具有原生的视觉能力和100万个标记的上下文窗口。它是全球首个开放的3T级模型，旨在用于长时间编码、知识工作和推理等前沿智能领域。虽然它的整体性能仍然不及最强大的专有模型Claude Fable 5和GPT 5.6 Sol，但Kimi K3在我们的评估套件中展现出了前沿水平的表现，始终优于其他测试模型。Kimi K3今天可以在Kimi.com、Kimi Work、Kimi Code和Kimi API上使用。在发布时，Kimi K3将默认使用最大思考努力，后续更新将引入低和高努力模式。我们目前正在与推理合作伙伴和开源维护者密切合作，以协调技术细节，确保在整个生态系统中的可靠推出。完整的模型权重将在2026年7月27日之前发布。关于架构、训练和评估的更多细节将在Kimi K3的技术报告中发布。 开放的3T级模型 Kimi K3是第一个达到2.8万亿参数的开放模型。这标志着Kimi在扩展前沿方面的最新步骤：在过去的12个月中，有9个月Kimi模型设定了开放模型尺寸的上限。Kimi K3建立在Kimi Delta注意力（KDA）和注意力残差（AttnRes）之上，这两个架构更新旨在改善信息在序列长度和模型深度之间的流动。我们还扩大了专家组合（MoE）的稀疏度，有效激活896个专家中的16个，与稳定的LatentMoE框架配对。结合精炼的训练和数据配方，这些结构变化使总体扩展效率相比Kimi K2提高了约2.5倍，使模型能更有效地将计算转化为智能。 编码性能 Kimi K3在长时间编码性能上表现强劲。在最小人类监督的情况下，它可以持续进行长时间的工程会话，浏览大量代码库，并协调终端工具。Kimi K3还在结合软件工程与视觉推理的任务上表现优异——它利用屏幕截图和视觉效果来优化游戏开发、前端以及CAD。以下案例展示了Kimi K3的编码能力如何转化为开放式软件创作和科学研究。 内核优化 我们测试了模型优化GPU内核的能力。每个模型都在一个相同的沙箱中独立工作，最多可用24小时来分析、重写和基准测试四个任务，涉及AttnRes、KDA和一个512头维度的MLA内核，跨越NVIDIA H200和来自其他供应商的GPGPU。Kimi K3的表现与Fable 5（具有回退功能）竞争，并显著超越Opus 4.8、GPT 5.6 Sol和GPT 5.5。Claude Fable 5的评估由第三方进行，其结果可能包括回退行为。在大多数模型中，一些轨迹包括小的、可接受的精度捷径，仍然在我们的数值容差范围内。GPGPU指用于超越图形渲染的计算的一般用途GPU。在Kimi K3开发的后期阶段，Kimi K3的早期版本处理了团队大部分的内核优化工作。 GPU编译器开发 我们进一步测试了Kimi K3是否能够从头开始构建一个GPU编程系统。Kimi K3开发了MiniTriton，一个紧凑的Triton类编译器，具有自己的基于MLIR的块级IR层、优化传递和PTX代码生成管道。在支持的屋顶线基准测试中，MiniTriton提供的性能与Triton和torch.compile相当或更好——在某些工作负载上超越了Triton。超出微基准测试，MiniTriton在稳定收敛的情况下支持端到端的nanoGPT训练，损失曲线与参考曲线紧密跟踪，仅有轻微的偏差——验证了在现实工作负载下的完整管道。这些结果表明，Kimi K3能够构建一个连贯的端到端编译器——从DSL前端、IR传递到PTX代码生成和运行时——而不是孤立的内核；它的从零开始的Tensor Core路径已经与Triton的广泛优化堆栈相提并论。 游戏开发和数字创作 Kimi K3结合了强大的3D推理、编码和视觉能力，将概念、图像和视频转化为完全可玩互动体验。Kimi K3通过在代码和实时屏幕截图之间无缝迭代，实现了真正的“视觉反馈”——即时查看和优化输出。 案例1：3D开放世界 Kimi K3使用Three.js WebGPU和GPU计算构建了一个完全程序化的基于浏览器的3D探索游戏。它程序化生成了环境...