# 面壁智能联手清华开源BitCPM-CANN：手机端跑大模型内存锐减6倍，性能保留率高达97%

- Link: https://paooo.com/aigc-news/17753/
- Published: 2026-05-26T11:59:55+08:00
- Author: 站外新闻

> **💡 站外导读：**随着大模型向终端设备渗透，手机等移动硬件的内存与算力瓶颈成为制约
> AI普及的关键障碍。如何让动辄数十GB的庞大模型在资源受限的端侧设备上高效运行，是
> 整个行业亟待突破的技术高地。近期，面壁智能联合清华大学及OpenBMB开源社区在该领域
> 取得重大进展，推出BitCPM-CANN，为端侧大模型落地提供了全新解决方案。

面壁智能近日联合清华大学、OpenBMB开源社区，正式发布并开源了在低比特[大模型](https://paooo.com/ai-study/)
训练方向的最新突破成果——BitCPM-CANN。该成果在华为昇腾平台上原生完成，标志着端侧AI
大模型在轻量化与工程落地方面迈出了关键一步。

![image.png](https://paooo.com/wp-content/uploads/2026/05/6391539277263535455001641-
1.avif "image.png")

### 释放六倍显存红利打破硬件限制

此次开源的BitCPM-CANN提供了0.5B、1B、3B和8B四种规格，在与同规格全精度系列模型的逐一
对比测试中，展现出极为出色的性能。相较于传统的BF16精度，该模型在推理阶段能实现约
6倍的显存节省，从而显著降低了运行大模型所需的硬件配置。

对于手机产业而言， 6 倍的显存红利意味着原本对配置要求极高的8B参数级别大模型，如今
也可以轻松流畅地运行在主流旗舰手机之上。这种对内存空间的极致释放，将直接加速端侧
AI技术在移动设备上的普及与商用落地。

### 高能力保留率证实工程可复现性

在有效缩减模型体积的同时，BitCPM-CANN仍维持了顶尖的性能水平，其模型能力保留率稳定
在90%至97.2%的区间内。具体而言，三个主要尺寸模型的能力保留率均达到了95.7%到97.2%，
即便是参数量最小的0.5B版本，其保留率也高于90%。

这一亮眼的评测结果，系统性地证明了低比特训练技术路线具备极强的可扩展性与工程可复现
性。面壁智能基于相关主干搭建了完整的低比特训练底座，涵盖环境适配、32K长序列支持及
融合算子等完整工程体系，为后续面向昇腾的低比特训练工作筑牢了公共基础设施。

#### 📝 站长洞察 (Editor’s Insight)

BitCPM-CANN的发布标志着端侧大模型进入了“工程可复现”的成熟阶段。面壁智能通过与华为
昇腾平台的深度协同，不仅解决了低比特训练的精度保持难题，更重要的是构建了一套完整
的低比特训练底座工程。这揭示了行业未来的核心趋势：AI竞争的焦点正从单纯追求参数规模，
转向模型效率、工程化落地与软硬协同优化。未来，能够在芯片、框架、模型三个层面实现
深度整合的玩家，将在端侧AI的万亿级市场中占据主导地位。此开源成果为国产AI生态的闭
环提供了关键拼图。

**🚀 Prompt 语宙 AI 创作者生态：**探索 2,000+ 全球实用 AI 工具与高精度生图提示词
咒语库

[🧭 语宙 AI 导航 (ai.paooo.com)](https://ai.paooo.com/)[🎨 AI 生图 Prompt 库](https://paooo.com/ai-image-prompts/)
[⚡ AIGC 早报生成器](https://paooo.com/mtool/)