---
title: "MiniCPM-SALA：面壁智能开源9B端侧大模型，百万级长文本推理首登消费级显卡"
url: "https://paooo.com/aigc-news/11585/"
author: "Prompt 语宙研究院"
published_at: "2026-06-12T03:42:22+08:00"
updated_at: "2026-06-07T20:06:59+08:00"
categories: "AI 工具, AIGC 资讯"
tags: "MiniCPM, SALA架构, 端侧大模型, 长上下文推理, 面壁智能"
source: "Prompt 语宙 (https://paooo.com)"
ai_tools_directory: "语宙 AI 导航 (https://ai.paooo.com)"
---

# MiniCPM-SALA：面壁智能开源9B端侧大模型，百万级长文本推理首登消费级显卡

> 来源：[Prompt 语宙 (paooo.com)](https://paooo.com/aigc-news/11585/) · 作者：Prompt 语宙研究院 · 发布时间：2026-06-12

## AI 30 秒核心看点 (TL;DR)

- SALA 以 75% 线性注意力+25% 稀疏注意力，实现百万级长文本高效推理。
- MiniCPM-SALA 首次在消费级显卡上跑通 1M+ tokens，上下文能力面向端侧落地。
- 在 256K 序列上较同尺寸稠密模型快 3.5 倍，且 512K 至 1M 长度仍可稳定运行。

> 
                **💡 站外导读：**随着大模型应用向终端设备深入，如何在有限算力下实现超长上下文处理成为关键瓶颈。传统Transformer架构在百万token序列上面临显存爆炸和计算效率难题，制约了端侧AI Agent的落地。面壁智能开源的MiniCPM-SALA，正是针对这一行业痛点给出的创新解决方案——通过SALA混合注意力架构，首次在消费级显卡上实现百万级上下文推理，为端侧智能开辟了新路径。

            

             
                        

## MiniCPM-SALA是什么

MiniCPM-SALA是面壁智能开源的9B端侧大模型，采用创新的SALA（稀疏-线性混合注意力）架构，75%线性注意力负责全局高效建模，用25%稀疏注意力精准捕捉关键信息，引入混合位置编码HyPE实现长短文本无缝切换。模型首次在消费级显卡（如RTX 5090）上实现百万级上下文推理，显存占用低、推理速度快，为端侧Agent部署长文本能力提供可行路径。

## MiniCPM-SALA的主要功能

- 
**百万级长文本处理**：支持1M+ tokens上下文，首次在RTX 5090消费级显卡上完整运行百万长度推理。

- 
**高效推理加速**：在256K序列上实现相比同尺寸稠密模型3.5倍的推理速度提升。

- 
**低显存占用**：通过优化KV Cache，在512K至1M长度下仍稳定运行不OOM。

- 
**长短文本兼容**：模型短文本保持与Qwen3-8B相当的通用能力，长文本具备显著优势。

- 
**端侧部署优化**：专为手机、汽车、机器人等终端设备设计，实现本地化长上下文Agent。

## MiniCPM-SALA的技术原理

- **SALA混合注意力架构**：将75%线性注意力（Lightning Attention）与25%稀疏注意力（InfLLM v2）分层结合，前者以O(N)复杂度承担全局建模，后者按需计算关键局部信息，实现效率与精度的平衡。

- **HyPE混合位置编码**：线性层保留RoPE维持短文本性能，稀疏层采用NoPE使KV-Cache与位置解耦，规避长距离衰减，支撑百万级上下文的高效检索。

- **HALO低成本迁移**：通过参数转换、隐状态对齐、层选择和知识蒸馏四步，将全注意力模型迁移至混合架构，训练预算降至从头预训练的25%。

## MiniCPM-SALA的项目地址

- **GitHub仓库**：https://github.com/openbmb/minicpm

- **HuggingFace模型库**：https://huggingface.co/openbmb/MiniCPM-SALA

## MiniCPM-SALA的应用场景

- 
**个人智能助手**：在本地设备上持续保留百万级聊天记录和个人偏好，实现真正”懂你”的隐私化私人助理。

- 
**端侧知识库**：基于离线百万字文档库进行专业问答，满足企业敏感数据的本地化处理需求。

- 
**代码开发助手**：一次性理解整个代码仓库上下文，辅助跨文件调试和复杂重构任务。

- 
**车载智能系统**：整合车辆手册、导航历史和用户习惯，在车内离线环境提供个性化驾驶服务。

- 
**科研文献分析**：模型快速处理海量学术论文，提取跨文献关联信息辅助综述写作。

                    
            
                

#### 📝 站长洞察 (Editor's Insight)

                MiniCPM-SALA的发布，标志着端侧大模型进入‘长上下文可部署’的新阶段。其SALA架构并非简单堆叠技术，而是对注意力机制的精妙解构：75%线性注意力保全局效率，25%稀疏注意力抓关键细节，这种‘分层治之’的思路极具启发性。更值得关注的是，它首次将百万级推理带入消费级硬件，这直接打破了‘长上下文必须依赖云端’的认知定式。从行业视角看，这不仅是技术突破，更是商业模式的革新——当终端设备具备处理海量本地数据的能力，隐私计算、离线智能、个性化Agent等场景将真正爆发。面壁智能通过开源策略，正在构建端侧AI的生态基石，其影响或将超越模型本身。

## 常见问题解答 (FAQ)

### MiniCPM-SALA支持多少上下文长度？
文章信息显示，MiniCPM-SALA支持 1M+ tokens 的百万级上下文推理，并且首次在消费级显卡上完整运行百万长度序列，适合长文档、代码仓库和本地知识库等场景。

### MiniCPM-SALA为什么适合端侧部署？
它采用 SALA 混合注意力与优化后的 KV Cache，兼顾长文本能力和低显存占用，因此可面向手机、汽车、机器人等终端设备部署本地长上下文 Agent。

### MiniCPM-SALA和普通稠密模型相比有什么优势？
在 256K 序列上，它的推理速度比同尺寸稠密模型快 3.5 倍；同时在 512K 到 1M 长度下仍能稳定运行不 OOM，长文本效率和显存控制更突出。

---
探索 2,800+ 全球实用 AI 工具与官方直达入口：[语宙 AI 导航 (https://ai.paooo.com/)](https://ai.paooo.com/)
