Prompt 语宙Prompt 语宙
  • 首页
  • 语宙 AI 导航
  • AIGC 资讯
    • AIGC 早报Hot
    • 最新趋势
    • AI 工具
    • 热门资源
    • 强化 AI 学习
  • AI 绘图
    • Prompt 实战
    • AI 绘画教程
    • 模型精选
  • AI 图库
    • 人物
    • 展台场景
    • Banner
    • 游戏
    • 动物
    • 食物
    • 自然
    • 背景
    • 海报
    • 建筑
    • 室内设计
  • 出海数字营销宝典
  • AI 生图 Prompt
    • 写实人像
    • 产品与广告
    • 游戏资产与 3D
    • 界面与图标
    • 建筑与室内
    • 动漫与插画
    • 风景与自然
Search
  • Contact
  • Blog
  • Complaint
  • Advertise
© 2024 Prompt 语宙. HalfPX. All Rights Reserved.
阅读: 以小胜大反超 50% 竞品!Liquid AI 开源旗舰端侧推理模型 LFM2.5-24B-A2B:激活仅 2.45B、M5 Max 解码飙至 184 tok/s 架构深度拆解
Share
登陆
通知 阅读更多
Font Resizer字体
Font Resizer字体
Prompt 语宙Prompt 语宙
Search
  • 首页
  • 语宙 AI 导航
  • AIGC 资讯
    • AIGC 早报Hot
    • 最新趋势
    • AI 工具
    • 热门资源
    • 强化 AI 学习
  • AI 绘图
    • Prompt 实战
    • AI 绘画教程
    • 模型精选
  • AI 图库
    • 人物
    • 展台场景
    • Banner
    • 游戏
    • 动物
    • 食物
    • 自然
    • 背景
    • 海报
    • 建筑
    • 室内设计
  • 出海数字营销宝典
  • AI 生图 Prompt
    • 写实人像
    • 产品与广告
    • 游戏资产与 3D
    • 界面与图标
    • 建筑与室内
    • 动漫与插画
    • 风景与自然
已有帐户? 登陆
  • Contact
  • Blog
  • Complaint
  • Advertise
© 2023 Prompt 语宙. Paooo.com. All Rights Reserved.
LFM2.5-24B-A2B 端侧 MoE 架构与性能基准评测
Prompt 语宙 > AI 工具 > 以小胜大反超 50% 竞品!Liquid AI 开源旗舰端侧推理模型 LFM2.5-24B-A2B:激活仅 2.45B、M5 Max 解码飙至 184 tok/s 架构深度拆解
AI 工具最新趋势

以小胜大反超 50% 竞品!Liquid AI 开源旗舰端侧推理模型 LFM2.5-24B-A2B:激活仅 2.45B、M5 Max 解码飙至 184 tok/s 架构深度拆解

站外新闻
最近更新: 2026年10月17日 下午8:12
LFM2.5 Liquid AI MoE架构 思维链 端侧推理
LFM2.5-24B-A2B 端侧 MoE 架构与性能基准评测
SHARE

💡 站外导读:在追求通用人工智能(AGI)的浪潮中,“端侧模型(On-Device Models)”长期深陷于“参数不够强推理崩塌、参数过大则边缘硬件无法承载”的两难困境。由液体神经网络(Liquid Neural Networks)奠基团队创立的 Liquid AI 带来了突破性解法——正式开源其 LFM2.5 家族旗舰端侧推理模型 LFM2.5-24B-A2B。该模型以 24B 总参数、每 Token 仅激活 2.45B 的极致稀疏 MoE 设计,配合原生全流程思维链(Chain-of-Thought)推理能力,不仅在 Apple M5 Max 等端侧旗舰硬件上实现了 184 tokens/s 的骇人解码吞吐,更在 Agent 真实工具调用评测中直接击败参数多出 50% 的顶级开源竞品,为个人隐私计算与端侧自主智能体树立了划时代的能效标杆。

LFM2.5-24B-A2B 端侧 MoE 架构与性能基准评测

阅读目录
  • 一、架构革命:24B 总量仅激活 2.45B 的端侧 MoE 设计哲学
  • 二、硬核性能实测:跨代碾压的端侧基准与工具调用表现
  • 三、工程落地:开箱即用的 Agentic RL 强化学习与工具调度
      • 📝 站长洞察 (Editor’s Insight)

一、架构革命:24B 总量仅激活 2.45B 的端侧 MoE 设计哲学

在传统的端侧大模型部署方案中,密集群模型(Dense Models)如 7B/8B 往往在面临长程逻辑推导与复杂工具调用时力不从心;而常规的云端 MoE 模型(如 8x7B)又因参数总量过于庞大,在个人设备(PC、Mac 或移动工作站)上面临显存严重溢出的瓶颈。Liquid AI 的 LFM2.5-24B-A2B 走出了一条全新的工程折中路径:

  • 40 层深度稀疏 MoE 拓扑:模型拥有 240 亿(24B)静态参数储备,但通过精细化的专家路由器(Expert Router),在每个推理步中仅激活 24.5 亿(2.45B)参数,将端侧运算的算力负载压至极低水平;
  • 131,072 Tokens 超长上下文:原生支持 131K 极端长窗口,使得智能体在端侧能够一次性加载数十万字的技术文档、长程代码库与复杂工具定义,且在全长测试下检索精度零衰减;
  • 128K 非拉丁原生扩展词表:针对多语言特别是东亚语系(中日韩)及小语种进行了原地词表重构与扩充,大幅降低非英语文本的 Token 膨胀率,同等语义下计算步数减少近 30%;
  • 强制思维链(CoT)推理范式:模型摒弃传统模型的“抢答式”直接输出,在给出任何最终结论或工具调用指令前,强制通过内部思维链进行假设检验与分支修剪,将隐式推理成本转化为低单价的 Token 流。

二、硬核性能实测:跨代碾压的端侧基准与工具调用表现

为了验证 LFM2.5-24B-A2B 在真实智能体工作流中的表现,研发团队在覆盖 Agent 自动化、真实工具调用与逻辑推理等多个权威基准上,与主流开源竞品展开了无差别盲测:

评测维度 / 基准测试 LFM2.5-24B-A2B (Liquid AI) Qwen3.6-35B-A3B (阿里) 架构工程优势剖析
总参数 / 激活参数 24B / 仅激活 2.45B 35B / 激活 3.0B (+50% 参数) 以更轻量参数降低端侧显存与带宽压力
LiveClaw (Agent 真实交互) 48.09 38.19 领先近 10 个百分点,长链任务更稳健
AutomationBench (自动化操作) 27.69 (超第二名 3 倍) 8.72 端到端执行环境与脚本操控断层式领先
ToolSandbox (复杂工具沙盒) 80.71 75.02 结构化入参契约解析与多分支回退能力极强
M5 Max 端侧吞吐速度 184 tokens/s (极速) 约 108 tokens/s 速度提升 1.7 倍,满足端侧实时响应

三、工程落地:开箱即用的 Agentic RL 强化学习与工具调度

与多数“只开源基座不给配套方案”的模型不同,LFM2.5-24B-A2B 在预训练与后训练阶段便深度对齐了主流智能体框架。其核心技术特征包括:

  1. 原生结构化工具输出协议:模型无需冗长或复杂的 System Prompt 引导,支持通过 <|tool_call_start|> 与 <|tool_call_end|> 特殊标记以标准 JSON Schema 格式输出函数调用,直接打通外部环境;
  2. 主流 Agent 框架 Day-0 级接入:已原生适配 OpenClaw、Hermes Agent、Pi 以及 OpenCode 等开源多智能体开发框架,可作为 Local OpenAI Compatible API 网关即插即用;
  3. 全硬件跨平台生态打通:模型权重提供原生 GGUF、MLX、vLLM、SGLang 及 ONNX 导出格式,无论是 Apple Silicon(M 系列统一内存)、AMD ROCm、Qualcomm 骁龙 NPU 还是 NVIDIA RTX 系列显卡,均能实现极致量化与加速运行。

📝 站长洞察 (Editor’s Insight)

Liquid AI 的这一波开源,向整个行业释放了一个极其强烈的信号:大模型的竞争正从“无脑堆砌参数量的算力蛮力赛”,彻底转向“激活参数能效比与端侧可用性的精细工程赛”。过去一年,许多企业在落地 AI Agent 时发现,哪怕云端顶尖模型跑分再高,高昂的 Token 费用、网络传输延迟以及敏感数据上云的合规风险,都是难以逾越的高墙。LFM2.5-24B-A2B 证明了一点——通过极致的稀疏 MoE 调度与原生的 Agentic RL 强化微调,仅需激活 2.45B 参数就能在端侧以 184 tok/s 跑出媲美 35B 级别云端模型的智能体工具调用水平。对于希望在本地私有化集群、开发者个人 PC 或边缘工控设备上构建离线自主 Agent 的团队而言,LFM2.5 提供了一条极具性价比与安全感的新基建通路。

百度开源ERNIE-4.5-VL多模态大模型:28B参数激活3B,128K超长上下文,2-Bit无损量化领跑文档理解与视频分析
Octofriend:开源AI编程助手,自由切换GPT-5/Claude等大模型,代码自动修复与隐私零追踪
微软开源Fara-7B:70亿参数AI Agent自动操作电脑,效率飙升、隐私无忧
群核科技SpatialLM 1.5深度解析:用自然语言秒生3D场景,重塑室内设计与机器人训练
OpenAI广告战略大转向:取消20万美元门槛,ChatGPT全面拥抱中小企业效果广告
TAGGED:LFM2.5Liquid AIMoE架构思维链端侧推理
分享
Email 复制链接 打印
Share
上一篇 蚂蚁阿福与支付宝AI支付入选美国时代周刊2026全球年度最佳发明 2026《时代》全球最佳发明揭晓!蚂蚁阿福与支付宝 AI 支付双双登顶:从 1.5 亿人普惠医疗到 Agent 自治消费的闭环进化
下一篇 MiniCPM-V 4.7 面壁智能端侧 MoE 多模态大模型技术全景 iPhone 无损畅跑 35B 巨兽!面壁智能开源全球首个手机端 MoE 多模态大模型 MiniCPM-V 4.7:3GB 内存畅跑、前瞻专家调度 LES 与全链路加速工程实战
发表评价

发表评价 取消回复

您的邮箱地址不会被公开。 必填项已用 * 标注

Please select a rating!

Ad image
- 入群领取知识星球折扣卷, 仅剩99份 -
Ad imageAd image

最近更新

OpenDots 开源 AI 同事工作区架构与 OpenBot 容器化执行环境
告别云端玩具!CopilotKit 开源本地可自托管 AI 同事工作区 OpenDots:独立 OpenBot 容器电脑、MCP 工具插槽与人机审批流深度剖析
AI 工具 最新趋势
MiniCPM-V 4.7 面壁智能端侧 MoE 多模态大模型技术全景
iPhone 无损畅跑 35B 巨兽!面壁智能开源全球首个手机端 MoE 多模态大模型 MiniCPM-V 4.7:3GB 内存畅跑、前瞻专家调度 LES 与全链路加速工程实战
AI 工具 AIGC 资讯
蚂蚁阿福与支付宝AI支付入选美国时代周刊2026全球年度最佳发明
2026《时代》全球最佳发明揭晓!蚂蚁阿福与支付宝 AI 支付双双登顶:从 1.5 亿人普惠医疗到 Agent 自治消费的闭环进化
AIGC 资讯 最新趋势
量子芯片科技感占位特色图
告别 Git 膨胀!Anthropic 揭秘自研无锁源码控制系统 Scion:为海量 Coding Agent 重塑版本控制,算力开销暴降 99.5%
AI 工具 AIGC 资讯

相关推荐

AI 工具AIGC 资讯

RustGPT:用纯Rust从零打造的Transformer大模型,揭秘无框架AI开发全流程

站外新闻
Rust语言模型 Transformer架构 从零构建AI 开源AI项目 指令微调
AI 工具AIGC 资讯

阶跃星辰StepAudio 2.5 ASR发布:500 TPS极速推理与30分钟长音频端到端转写,定义语音识别新SOTA

站外新闻
ASR 大语言模型 自动语音识别 语音转写 阶跃星辰
AI 工具

Iconify AI

remaker
AI 工具AIGC 资讯

字节港中文等重磅开源OmniShow:12.3B参数统一框架,首个支持RAP2V的端到端人-物交互视频生成模型

站外新闻
AIGC OmniShow RAP2V 字节跳动 视频生成模型
/ Prompt 语宙 /

Experience the limitless creative possibilities of generative AI and unlock new levels of innovation.

Quick Link

  • Remaker AI
  • BGRemaker 抠图Hot
  • AIGC 工具
  • Prompt 咒语生成器
  • 去水印工具

Support

  • Contact
  • Blog
  • Complaint
  • Advertise

标签

AIGC Midjourney prompt AI Agent GPT Image 2 多模态大模型 EvoLink灵感 AI绘画 字节跳动 开源模型 开源工具 早报 具身智能 openai 大语言模型 开源大模型 阿里通义 强化学习 MoE架构 Anthropic 腾讯混元 多模态AI 开源框架 AI智能体 教程 AI工具 扩散模型 AI视频生成 chatgpt 大模型
Prompt 语宙Prompt 语宙
Follow US
© 2009-2026 Prompt 语宙. Paooo.com. All Rights Reserved.