# 蚂蚁百灵Ling-V2：160亿参数MoE模型开源，14亿激活参数实现7倍效率飞跃 - Link: https://paooo.com/aigc-news/13634/ - Published: 2026-06-21T07:42:22+08:00 - Author: 站外新闻 > **💡 站外导读：**在算力成本高企、模型部署效率成为落地关键瓶颈的行业背景下，如何 > 以更低的激活参数实现更强的性能，是大模型进化的核心命题。蚂蚁百灵团队推出的Ling- > V2系列，特别是其首个版本Ling-mini-2.0，通过创新的MoE架构设计，在仅激活14亿参数 > 的极小计算单元下，实现了对标7-8亿密集模型的强大推理能力，并配套开源了高效的FP8 > 训练方案，直指降低研究与部署门槛的行业痛点。 ## Ling-V2是什么 Ling-V2 是蚂蚁百灵团队推出的基于 MoE 架构的大型语言模型家族，首个版本 Ling-mini- 2.0 拥有 160 亿总参数，每个输入标记仅激活 14 亿参数。模型在 20 万亿高质量数据标记 上训练，经多阶段监督微调和强化学习增强，在复杂推理和指令遵循方面表现出色。Ling-mini- 2.0 用 1/32 激活比率的 MoE 架构，实现 7 倍等效密集性能杠杆，生成速度快，训练和推理 效率高，开源了 FP8 高效训练解决方案，提供多种预训练检查点，支持持续训练，是 MoE 研究的理想起点。 阅读目录 * [Ling-V2是什么](https://paooo.com/aigc-news/13634/#lingv2%e6%98%af%e4%bb%80%e4%b9%88) * [Ling-V2的主要功能](https://paooo.com/aigc-news/13634/#lingv2%e7%9a%84%e4%b8%bb%e8%a6%81%e5%8a%9f%e8%83%bd) * [Ling-V2的技术原理](https://paooo.com/aigc-news/13634/#lingv2%e7%9a%84%e6%8a%80%e6%9c%af%e5%8e%9f%e7%90%86) * [Ling-V2的项目地址](https://paooo.com/aigc-news/13634/#lingv2%e7%9a%84%e9%a1%b9%e7%9b%ae%e5%9c%b0%e5%9d%80) * [Ling-V2的应用场景](https://paooo.com/aigc-news/13634/#lingv2%e7%9a%84%e5%ba%94%e7%94%a8%e5%9c%ba%e6%99%af) * [📝 站长洞察 (Editor’s Insight)](https://paooo.com/aigc-news/13634/#%f0%9f%93%9d-%e7%ab%99%e9%95%bf%e6%b4%9e%e5%af%9f-editor8217s-insight) ![Ling-V2](https://paooo.com/wp-content/uploads/2026/05/Ling-V2-website-1.avif) ## Ling-V2的主要功能 * **强大的推理能力**：在编码、数学以及跨领域知识密集型推理任务中表现出色，与10亿 以下的密集模型和更大规模的MoE模型相比，展现出卓越的推理能力。 * **高效率**：采用1/32激活比率的MoE架构，实现7倍等效密集性能杠杆，激活14亿参数能 提供相当于7-8亿密集模型的性能，在简单问答场景中生成速度可达300+ token/s，处理 128K上下文长度时相对速度提升可达7倍以上。 * **高效的训练解决方案**：整个训练过程中用FP8混合精度训练，开源了FP8训练解决方案， 基于tile/blockwise FP8缩放，进一步引入FP8优化器等，实现极致的内存优化，在8/16/ 32个80G GPU上，与[LLaMA 3.1 8B](https://ai-bot.cn/meta-llama3-1/)和[Qwen3 8B](https://ai-bot.cn/qwen3/) 相比，训练吞吐量显著提升。 * **开放的开源策略**：除发布经过训练的版本外，开源了五个预训练检查点，支持更深入 的研究和更广泛的应用。 ## Ling-V2的技术原理 * **MoE架构**：基于混合专家（MoE）架构，通过将模型分解为多个专家网络，在每个输入 标记上仅激活部分专家，实现模型的稀疏性，在保持高性能的同时提高计算效率。 * **优化设计**：在专家粒度、共享专家比率、注意力比率、无辅助损失+sigmoid路由策略、 MTP损失、QK-Norm、半RoPE等方面进行经验优化设计，进一步提升模型的性能和效率。 * **FP8混合精度训练**：在训练过程中用FP8混合精度，与BF16相比，在超过1万亿训练标记 的实验中，损失曲线和下游基准性能几乎相同，同时开源FP8训练解决方案，支持社区在 有限的计算资源下进行高效的持续预训练和微调。 * **多阶段训练**：模型在超过20万亿高质量数据标记上进行训练，通过多阶段的监督微调 和强化学习进行增强，在复杂推理和指令遵循方面取得显著的改进。 ## Ling-V2的项目地址 * **GitHub仓库**：https://github.com/inclusionAI/Ling-V2 * **HuggingFace模型库**：https://huggingface.co/collections/inclusionAI/ling-v2- 68bf1dd2fc34c306c1fa6f86 ## Ling-V2的应用场景 * **自然语言处理（NLP）任务**：高效处理各种自然语言处理任务，如文本分类、情感分析、 机器翻译等，提供准确且高效的解决方案。 * **智能客服**：作为智能客服的核心引擎，快速响应用户问题，提供精准的解答，提升用户 体验和客服效率。 * **内容创作**：辅助内容创作，生成高质量的文本内容，如新闻报道、创意写作、广告文案 等，帮助创作者提高创作效率和质量。 *  **教育领域**：用于教育领域，如智能辅导、自动批改作业、个性化学习计划等，为学生 和教师提供个性化的教育支持。 * **医疗健康**：Ling-V2能处理医疗文本数据，辅助医生进行病例分析、医疗文献检索等， 提高医疗决策的准确性和效率。 #### 📝 站长洞察 (Editor’s Insight) Ling-V2的发布，标志着[大模型](https://paooo.com/ai-study/)竞争已从单纯的参数军备 竞赛，全面转向‘效率-性能’的精细化比拼。其1/32激活比率和7倍性能杠杆，精准踩中了当前 行业追求‘降本增效’的主旋律。这不仅是技术优化，更是一种生态战略：通过开源极具性价 比的模型与训练方案，吸引开发者基于其生态进行创新，从而在开源社区中构建影响力。未来， 能够以最小算力消耗解决最复杂问题的‘高效模型’，将成为驱动AI普及、尤其是在边缘端和 垂直场景落地的关键。Ling-V2及其开源的FP8训练方案，为资源有限的团队参与前沿模型研发 提供了新可能，可能加速MoE架构成为下一代模型主流范式的进程。 **🚀 Prompt 语宙 AI 创作者生态：**探索 2,000+ 全球实用 AI 工具与高精度生图提示词 咒语库 [🧭 语宙 AI 导航 (ai.paooo.com)](https://ai.paooo.com/)[🎨 AI 生图 Prompt 库](https://paooo.com/ai-image-prompts/) [⚡ AIGC 早报生成器](https://paooo.com/mtool/)