💡 站外导读:在追求通用人工智能(AGI)的浪潮中,“端侧模型(On-Device Models)”长期深陷于“参数不够强推理崩塌、参数过大则边缘硬件无法承载”的两难困境。由液体神经网络(Liquid Neural Networks)奠基团队创立的 Liquid AI 带来了突破性解法——正式开源其 LFM2.5 家族旗舰端侧推理模型 LFM2.5-24B-A2B。该模型以 24B 总参数、每 Token 仅激活 2.45B 的极致稀疏 MoE 设计,配合原生全流程思维链(Chain-of-Thought)推理能力,不仅在 Apple M5 Max 等端侧旗舰硬件上实现了 184 tokens/s 的骇人解码吞吐,更在 Agent 真实工具调用评测中直接击败参数多出 50% 的顶级开源竞品,为个人隐私计算与端侧自主智能体树立了划时代的能效标杆。
一、架构革命:24B 总量仅激活 2.45B 的端侧 MoE 设计哲学
在传统的端侧大模型部署方案中,密集群模型(Dense Models)如 7B/8B 往往在面临长程逻辑推导与复杂工具调用时力不从心;而常规的云端 MoE 模型(如 8x7B)又因参数总量过于庞大,在个人设备(PC、Mac 或移动工作站)上面临显存严重溢出的瓶颈。Liquid AI 的 LFM2.5-24B-A2B 走出了一条全新的工程折中路径:
- 40 层深度稀疏 MoE 拓扑:模型拥有 240 亿(24B)静态参数储备,但通过精细化的专家路由器(Expert Router),在每个推理步中仅激活 24.5 亿(2.45B)参数,将端侧运算的算力负载压至极低水平;
- 131,072 Tokens 超长上下文:原生支持 131K 极端长窗口,使得智能体在端侧能够一次性加载数十万字的技术文档、长程代码库与复杂工具定义,且在全长测试下检索精度零衰减;
- 128K 非拉丁原生扩展词表:针对多语言特别是东亚语系(中日韩)及小语种进行了原地词表重构与扩充,大幅降低非英语文本的 Token 膨胀率,同等语义下计算步数减少近 30%;
- 强制思维链(CoT)推理范式:模型摒弃传统模型的“抢答式”直接输出,在给出任何最终结论或工具调用指令前,强制通过内部思维链进行假设检验与分支修剪,将隐式推理成本转化为低单价的 Token 流。
二、硬核性能实测:跨代碾压的端侧基准与工具调用表现
为了验证 LFM2.5-24B-A2B 在真实智能体工作流中的表现,研发团队在覆盖 Agent 自动化、真实工具调用与逻辑推理等多个权威基准上,与主流开源竞品展开了无差别盲测:
| 评测维度 / 基准测试 | LFM2.5-24B-A2B (Liquid AI) | Qwen3.6-35B-A3B (阿里) | 架构工程优势剖析 |
|---|---|---|---|
| 总参数 / 激活参数 | 24B / 仅激活 2.45B | 35B / 激活 3.0B (+50% 参数) | 以更轻量参数降低端侧显存与带宽压力 |
| LiveClaw (Agent 真实交互) | 48.09 | 38.19 | 领先近 10 个百分点,长链任务更稳健 |
| AutomationBench (自动化操作) | 27.69 (超第二名 3 倍) | 8.72 | 端到端执行环境与脚本操控断层式领先 |
| ToolSandbox (复杂工具沙盒) | 80.71 | 75.02 | 结构化入参契约解析与多分支回退能力极强 |
| M5 Max 端侧吞吐速度 | 184 tokens/s (极速) | 约 108 tokens/s | 速度提升 1.7 倍,满足端侧实时响应 |
三、工程落地:开箱即用的 Agentic RL 强化学习与工具调度
与多数“只开源基座不给配套方案”的模型不同,LFM2.5-24B-A2B 在预训练与后训练阶段便深度对齐了主流智能体框架。其核心技术特征包括:
- 原生结构化工具输出协议:模型无需冗长或复杂的 System Prompt 引导,支持通过
<|tool_call_start|>与<|tool_call_end|>特殊标记以标准 JSON Schema 格式输出函数调用,直接打通外部环境; - 主流 Agent 框架 Day-0 级接入:已原生适配 OpenClaw、Hermes Agent、Pi 以及 OpenCode 等开源多智能体开发框架,可作为 Local OpenAI Compatible API 网关即插即用;
- 全硬件跨平台生态打通:模型权重提供原生 GGUF、MLX、vLLM、SGLang 及 ONNX 导出格式,无论是 Apple Silicon(M 系列统一内存)、AMD ROCm、Qualcomm 骁龙 NPU 还是 NVIDIA RTX 系列显卡,均能实现极致量化与加速运行。
📝 站长洞察 (Editor’s Insight)
Liquid AI 的这一波开源,向整个行业释放了一个极其强烈的信号:大模型的竞争正从“无脑堆砌参数量的算力蛮力赛”,彻底转向“激活参数能效比与端侧可用性的精细工程赛”。过去一年,许多企业在落地 AI Agent 时发现,哪怕云端顶尖模型跑分再高,高昂的 Token 费用、网络传输延迟以及敏感数据上云的合规风险,都是难以逾越的高墙。LFM2.5-24B-A2B 证明了一点——通过极致的稀疏 MoE 调度与原生的 Agentic RL 强化微调,仅需激活 2.45B 参数就能在端侧以 184 tok/s 跑出媲美 35B 级别云端模型的智能体工具调用水平。对于希望在本地私有化集群、开发者个人 PC 或边缘工控设备上构建离线自主 Agent 的团队而言,LFM2.5 提供了一条极具性价比与安全感的新基建通路。
