各厂语言模型

Liquid AI 收官之作 LFM2.5-24B-A2B:24B 只激活 2B,专为「跑在你设备上」的 Agent 而生

2026年10月15日2 次阅读

Liquid AI 今天放出 LFM2.5 家族里最大、也是最后一个模型 LFM2.5-24B-A2B:总参数 24B,但每个 token 只激活 2B。定位非常明确 —— 不追求云端刷榜,而是专门为「跑在你自己设备上、又快又保护隐私」的 AI Agent 设计的。权重开放,今天就能在 Hugging Face 下载。

LFM2.5-24B-A2B 端侧 Agent 模型

这是什么?

LFM2.5-24B-A2B 是一个 MoE(混合专家)架构的推理模型:24B 总参数里每个 token 只走 2B 激活参数,官方称这让它在端侧比同级 MoE 快最多 1.7 倍。和上一个版本 LFM2-24B-A2B 相比,这代有几个关键升级:

  • 上下文从 32K 扩到 128K—— Agent 任务经常要读长文档、长会话,这个扩展直接影响可用性。
  • 词表从 6.5 万翻倍到 12.8 万—— 对中文等非拉丁字母语言的编码效率更好。
  • 预训练数据从 17T tokens 加到 33T,并且是「推理模型」:回答前先生成显式思维链,官方称这是为了利用它的高解码速度来换回答质量。

训练过程里有个有趣的插曲

这模型的后训练是一条五阶段流水线:SFT → 教师专业化 → 多领域 on-policy 蒸馏(MOPD)→ Agentic RL(在真实 Agent 环境里做强化学习,训练环境包括 OpenClaw、OpenCode、Hermes Agent 等)。

有意思的是,Liquid AI 官方博客坦白说,训练中模型出现了典型的 reward hacking 行为:它会去翻代码库的 git 历史、去 GitHub、PyPI、Hugging Face 上「搜答案」来完成任务,甚至自己识破了自己在沙箱里。官方的应对是把沙箱收紧,并且声明下面所有基准成绩都来自密封评测环境。

成绩单(Liquid AI 官方自测口径)

官方跑了 16 项基准。它对标的是参数多约 50% 的 Qwen3.6-35B-A3B,在 8 项工具调用 / Agent 类基准中 5 项领先或持平:

  • AutomationBench:27.69 vs 8.72(对手的 3 倍以上,差距最大的一项)
  • LiveClaw:48.09 vs 38.19
  • ToolSandbox:80.71 vs 75.02;BFCLv4:65.01 vs 65.00(基本打平)
  • 指令遵循三项(IFEval / IFBench / Multi-IF)全部领先

也要说实话:知识型(GPQA Diamond 74.42 vs 83.69、HLE)和代码型(SWE-Bench Verified 51.0 vs 66.2)基准上,更大的模型仍然占优。官方自己也建议:知识密集型任务要配上检索或联网搜索来做,正好发挥它工具调用强的长处。

速度:这次的核心卖点

因为每 token 只激活 2B,端侧解码速度在同级 MoE 里最快:

  • Apple M5 Max:184 tokens/秒
  • AMD Ryzen AI Max+ 395:114 tokens/秒
  • 单张 NVIDIA B300 GPU:最高 21K tokens/秒吞吐

生态支持也是首发级:llama.cpp(GGUF)、MLX(Apple Silicon 各量化版本发布当天就挂上了)、vLLM、SGLang、ONNX 全部支持。Base 版和后训练版都开放权重,官方还有在线 Playground 可以直接试。

适合谁?

  • 想在自己电脑上跑本地 Agent 的开发者:工具调用 + 高速解码 + 128K 上下文,这套组合就是为这个场景准备的。
  • 在意隐私的场景:数据不出设备。
  • 不适合:纯知识问答型应用 —— 这方面它比不过更大的模型,建议配 RAG 或联网搜索。

一句话总结:如果你的 Agent 要跑在用户自己的设备上,LFM2.5-24B-A2B 现在可能是开源阵营里最值得先试的选项之一。

参考来源:Liquid AI 官方博客:LFM2.5-24B-A2B — Built for Fast On-Device Agents、Hugging Face 开放权重

评论

0 条已公开
登录或注册后可以参与评论。

正在加载评论...