5月11日,面壁智能联合清华大学及 OpenBMB 开源社区,正式发布新一代端侧多模态大模型 MiniCPM-V4.6。这款仅拥有1.3B 参数的“轻量级”模型,凭借极致的智能密度与跨平台适配能力,成功挑战了更大参数模型的性能天花板,为端侧 AI 的落地应用按下了“加速键”。

image.png

一、性能巅峰:1.3B 参数下的“越级表现”

MiniCPM-V4.6正式推出了Instruct与Thinking两个版本,其在众多权威评测中所展现出的推理与理解能力,已超越了同量级模型的普遍水平。

  • 全球领跑: 在 Artificial Analysis(AA)榜单中,MiniCPM-V4.6以 13分 的优异成绩,不仅大幅领先同尺寸竞品(如阿里 Qwen3.5-0.8B 和谷歌 Gemma4-E2B-it),性能更直逼更大参数的 Qwen3.5-2B,成为1B 级模型中的性能标杆。

  • 高阶能力方面,该模型在通用图文理解、复杂的STEM数理推理,以及挑战性极高的文档OCR与视频时序理解任务上,均达到了卓越的智能水准。尤其在多图像推理与抑制幻觉生成方面,Thinking版本的表现尤为亮眼。

二、效率革命:极致的端侧“智能密度”

为了解决端侧部署“内存焦虑”,MiniCPM-V4.6在推理速度与资源占用上进行了深度优化:

  • 极低的硬件门槛是其一大亮点,运行所需内存被大幅压缩至仅6GB,这意味着主流智能手机、个人电脑乃至智能家居设备,都能轻松驱动其流畅运行。

  • 推理效率: 基于 vLLM 的推理吞吐量达到竞品的1.5倍;在端侧处理3136² 超高清大图时,首响延迟仅 75.7ms,较竞品快出2.2倍。

  • 在吞吐能力上,单张显卡即可支撑每秒7013个token的文本生成速度,以及每秒处理54.79张1344²分辨率图片的惊人效率。

三、技术硬核:LLaVA-UHD v4带来的开销缩减

模型之所以能“轻装上阵”,离不开面壁智能与清华大学联合研发的 LLaVA-UHD v4 技术:

  • 得益于对ViT图像编码器与浅层压缩模块的精心重构,模型的图像编码计算开销降低了50%,高分辨率场景下的浮点运算量也减少了55.8%。

  • 混合压缩机制: 创新支持4倍/16倍混合 Token 压缩,支持模型在“性能优先”与“速度优先”之间灵活切换,该技术此前已在快手的推荐大模型 OneRec 中经过验证,支撑了海量流量请求。

四、生态落地:从实验室走向产业一线

MiniCPM-V4.6的全面开源,不仅是一次技术上的突破,更预示着整个生态的繁荣与发展。

  • 开发便捷: 深度适配 ms-swift、LLaMA-Factory 等微调框架,开发者单张 RTX4090显卡即可实现全量微调。

  • 在生态兼容性上,它全面支持vLLM、Ollama等主流推理框架,并提供了覆盖iOS、Android、HarmonyOS的测试版本,从而将AI能力延伸至形态各异的硬件终端。

  • 落地赋能: 目前该系列已在汽车、PC、智能家居及工业检测等多领域落地,合作伙伴涵盖联想、吉利、上汽大众、小米、OPPO 等行业头部企业。

随着MiniCPM-V4.6的彻底开源,端侧部署多模态大模型的技术壁垒已被显著消弭。展望未来,AI将不再局限于云端算力,而是真正深度融入每一个智能终端,成为人们日常生活中不可或缺的“随身智慧核心”。