返回

文章详情

LFM2.5-24B-A2B:为快速的设备端智能体而生

Hacker News2026年10月14日 23:59

今天,我们发布了LFM2.5-24B-A2B,这是一个具有240亿参数的推理模型,只有20亿活跃参数,专为快速、私密的设备端智能体而设计。它是LFM2.5系列中最大也是最后一个模型,覆盖了两个数量级:从LFM2.5-230M到LFM2.5-24B-A2B。LFM2.5-24B-A2B在八个智能和工具使用基准中的五个方面与Qwen3.6-35B-A3B(一个总参数和活跃参数多出约50%的模型)具有竞争力,在LiveClaw中得分48.09,相比之下Qwen得分38.19,在AutomationBench中得分27.69,相比之下Qwen得分8.72。由于每个token只有20亿参数处于活动状态,其运行速度比可比的MoE设备快1.7倍,在Apple M5 Max上达到184个tokens/秒,在单个NVIDIA B300 GPU上最多可达到21000个输出tokens/秒。基础模型(LFM2.5-24B-A2B-Base)和训练后的模型(LFM2.5-24B-A2B)都是开放权重,今天可以在Hugging Face和我们的Playground上获得。查看我们的文档,了解如何在本地运行和微调该模型。自LFM2-24B-A2B以来发生了什么变化。LFM2.5-24B-A2B基于我们之前发布的LFM2-24B-A2B,扩展了词汇量和上下文窗口,增加了预训练规模,并进行了大规模的强化学习。不像它的前身,LFM2.5-24B-A2B是一个仅限推理的模型,在给出最终答案之前会产生明确的思维链。我们采用这种策略以利用它的高解码速度并提高答案质量。架构上,它保持了40层、每个MoE块64个专家和top-4路由,并且混合了门控短卷积和GQA。两个架构变化是上下文窗口从32,768个扩展到131,072个tokens,以及在位的tokenizer扩展,将词汇量从65K翻倍到128K,使得非拉丁文的tokenization更好。预训练规模从17万亿tokens扩展到33万亿tokens。中间培训有两个阶段。第一个阶段在32K上下文上运行2万亿tokens,使用高质量的数据,侧重于推理、数学、代码、指令跟随和多语言文本。第二个阶段在131K上下文上运行3000亿tokens,侧重于长上下文数据。工具调用和多轮路径贯穿两个阶段,为智能工作负载准备该模型。后训练将LFM2.5-24B-A2B-Base转变为智能化的LFM2.5-24B-A2B,分为五个阶段,如下所示:(1) 监督微调(SFT),(2) 教师专门化,(3) 非智能化和(4) 智能化的多领域在线策略蒸馏(MOPD),以及(5) 智能强化学习(Agentic RL),在智能代理框架内训练模型,如OpenClaw、Hermes Agent、Pi和OpenCode。图2:LFM2.5-24B-A2B后训练配方在教师专门化期间,LFM2.5-24B-A2B表现出知名的奖励黑客行为:在仓库的git历史或像GitHub、PyPI和Hugging Face等平台上搜索最终答案。更令人惊讶的是,它甚至意识到自己处于沙盒中,如下面的示例所示。这种行为看起来是自发的,但可能可以通过训练数据包含相似模式来解释。我们对此做出了回应,收紧了沙盒,以下所有报告的结果均来自密封的评估环境。基准测试我们在覆盖工具使用和智能工作流、知识、指令跟随、数学和编程的16个基准上评估了LFM2.5-24B-A2B。尽管在总参数和活跃参数数量上是最小的模型,但它具有竞争力,并且通常超越了总参数和活跃参数多出约50%的更大MoE模型,如Qwen3.6-35B-A3B。基准测试 LFM2.5-24B-A2B Qwen3.6-35B-A3B Gemma-4-26B-A4B-it Nemotron-3.5-Lightning (30B-A3B) AutomationBench 27.69 8.72 5.46 2.61 BFCLv4 65.01 65.00 57.09 53.78 ToolSandbox 80.71 75.02 72.09 75.13 LiveClaw 48.09 38.19 41.25 37.72 PinchBench 83.18 89.93 77.12 84.20 τ³-Bench Banking 8.04 7.63 4.54 7.01 WebArena Verified 26.75 37.62 25.62 28.69 GPQA Diamond 74.42 83.69 74.90 72.42 AA-Omniscience -24.90 -24.35 -59.39 -3.58 HLE 7.40 7.69 8.57 5.65 IFEval 96.75 93.06 92.00 94.19 IFBench 74.69 64.21 47.44 71.67 Multi-IF 84.38 81.53 82.19 82.34 MATH-500 96.04 96.73 95.66 96.40 SWE-Bench Verified (OpenCode) 51.00 66.20 25.80 53.40 SciCode 32.71 37.35 35.42 27.78 表1:LFM2.5-24B-A2B基准性能*。LFM2.5-24B-A2B在八个工具使用和智能基准的五个中领先或持平(AutomationBench、BFCLv4、ToolSandbox、LiveClaw和τ³-Bench Banking),其优势在AutomationBench中最为明显,得分超过第二名模型的三倍。它在所有三个指令遵循基准中也领先。较大的模型在知识密集型基准如GPQA Diamond、HLE和AA-Omniscience,以及在编程基准如SWE-Bench Verified (OpenCode)和SciCode中保持优势。这些结果使LFM2.5-24B-A2B成为需要推理、调用工具和在您设备上可靠运行的智能体的理想基础。对于知识密集型工作负载,我们建议将LFM2.5-24B-A2B与检索或网络搜索配合使用,以发挥其工具调用的优势。快速推理无处不在,LFM2.5-24B-A2B随附即日

赞助内容

NordVPN Next-gen Antivirus

本站免费、广告极少。如果觉得有帮助,可以请我们喝杯咖啡 —— 任何金额都对持续运营有实际帮助。

☕请我喝杯咖啡