# SmolLM2 – Hugging Face推出的紧凑型大语言模型

- Link: https://paooo.com/aigc-news/25930/
- Published: 2026-07-17T03:18:29+08:00
- Author: Prompt 语宙研究院

⚡ [Prompt](https://paooo.com/ai-image-prompts/) 语宙 AI 导读 · 30 秒核心看点

 * 提供1.7B/360M/135M三档模型，面向资源受限设备端部署。
 * 经SFT与DPO后训练后，指令理解、推理和数学能力更强。
 * 支持文本重写、摘要生成、函数调用，适合本地AI助手与边缘应用。

## SmolLM2是什么

SmolLLM2是Hugging Face推出用在设备端应用的紧凑型大型语言模型，提供1.7B、360M、135M
三个不同参数级别的模型，适应不同的应用场景和资源限制。模型在理解和执行指令、进行
知识推理及解决数学问题方面表现出显著的进步。基于采用监督微调和超反馈优化技术，SmolLLM2
能更准确地理解和响应复杂的指令，且在文本重写、摘要生成和函数调用等任务上展现出强大
的能力。让SmolLLM2非常适合需要在本地设备上进行高效语言处理的应用，如智能助手、聊天
机器人和其他需要自然语言理解的设备端服务。

阅读目录

 * [SmolLM2是什么](https://paooo.com/aigc-news/25930/#smollm2%e6%98%af%e4%bb%80%e4%b9%88)
 * [SmolLM2的主要功能](https://paooo.com/aigc-news/25930/#smollm2%e7%9a%84%e4%b8%bb%e8%a6%81%e5%8a%9f%e8%83%bd)
 * [SmolLM2的技术原理](https://paooo.com/aigc-news/25930/#smollm2%e7%9a%84%e6%8a%80%e6%9c%af%e5%8e%9f%e7%90%86)
 * [SmolLM2的项目地址](https://paooo.com/aigc-news/25930/#smollm2%e7%9a%84%e9%a1%b9%e7%9b%ae%e5%9c%b0%e5%9d%80)
 * [SmolLM2的应用场景](https://paooo.com/aigc-news/25930/#smollm2%e7%9a%84%e5%ba%94%e7%94%a8%e5%9c%ba%e6%99%af)

![SmolLM2](https://paooo.com/wp-content/uploads/2026/07/SmolLM2-website-1.avif)

## SmolLM2的主要功能

 * **文本重写**：SmolLLM2模型能对文本进行重写，让文本更加精炼或符合特定的风格和要求。
 * **摘要生成**：模型能从较长的文本中提取关键信息，生成摘要。
 * **函数调用**：SmolLLM2支持函数调用，对于自动编码助手或需要与现有软件无缝集成的
   个人AI应用程序特别有用。
 * **设备端运行**：SmolLLM2能在本地设备上运行，无需依赖云基础设施，适合延迟、隐私
   和硬件限制重要的应用场景。
 * **多任务处理**：模型针对多种自然语言处理任务进行优化，适合各种应用程序，尤其是
   在与云服务连接受限的设备上。

## SmolLM2的技术原理

 * **后训练技术**：SmolLLM2系列包含先进的后训练技术，如监督微调(SFT)和直接偏好优
   化(DPO)，增强模型处理复杂指令和提供更准确响应的能力。
 * **框架兼容性**：SmolLLM2与llama.cpp和Transformers.js等框架兼容，能在设备上高效
   运行，包括本地CPU处理和在浏览器环境中运行，无需专门的GPU。
 * **数据集训练**：SmolLLM2用来自FineWeb-Edu、DCLM和Stack等数据集的11万亿个标记进行
   训练，涵盖广泛的内容，主要侧重于英语文本。
 * **模型结构**：SmolLLM2的135M和360M模型用和MobileLLM类似的设计，加入Grouped-Query
   Attention结构，1.7B模型用相对传统的设计。所有模型均用embedding tying，上下文长度
   为2048个token。

## SmolLM2的项目地址

 * **HuggingFace模型库**：[https://huggingface.co/collections/HuggingFaceTB/smollm2-6723884218bcda64b34d7db9](https://huggingface.co/collections/HuggingFaceTB/smollm2-6723884218bcda64b34d7db9)

## SmolLM2的应用场景

 * **设备端应用**：SmolLLM2专为在资源有限的设备上运行设计，如智能手机或边缘设备，
   无需依赖云基础设施。
 * **延迟敏感和隐私保护**：适于对延迟和数据隐私有高要求的应用，如边缘AI应用。
 * **文本处理任务**：包括文本重写、摘要生成和函数调用等，特别是在云服务连接受限的
   设备上。
 * **自动编码助手**：支持与现有软件无缝集成的自动编码助手或个人AI应用程序，特别是
   需要函数调用功能的场合。
 * **NLP任务**：在常见的自然语言处理任务中表现出色，适合需要实时设备处理的应用。

🧭 文中关联 [AI 工具](https://ai.paooo.com/)官网与参数卡（语宙 AI 导航）

**HuggingFace ↗**

HuggingFace：AI模型开发社区，面向大语言模型场景提供便捷实用的在线功能支持，涵盖大
模型等实用方向。

**LLaMA ↗**

Meta（Facebook）推出的AI大语言模型。

**LLaMA ↗**

在线AI大模型微调平台，零代码、可视化操作。

❓ 常见问题解答（FAQ）

SmolLM2适合哪些设备端场景？

SmolLM2专为资源有限的本地设备设计，适合智能手机、边缘设备、浏览器端和本地CPU运行
场景。它尤其适合对延迟、隐私和离线可用性要求较高的应用，如本地助手、聊天机器人和
设备端NLP服务。

SmolLM2有哪些核心功能？

SmolLM2主要支持文本重写、摘要生成、函数调用和多任务自然语言处理。它能在本地设备上
完成常见语言任务，适合需要与现有软件集成的自动编码助手或个人AI应用。

SmolLM2的技术亮点是什么？

SmolLM2采用监督微调（SFT）和直接偏好优化（DPO）等后训练技术，并兼容llama.cpp、Transformers.
js等框架。135M和360M版本使用类似MobileLLM的设计并加入Grouped-Query Attention，适合
高效端侧部署。

🔬 语宙深潜追问 · 进阶实操拆解

小模型做函数调用最怕什么失误？

最怕参数填错、格式不稳和多轮状态丢失。落地时要用严格schema约束、函数白名单和重试
机制，必要时把复杂决策交给更大的模型，小模型负责路由和草拟。

离线AI应用该怎么选参数规模？

先按任务复杂度和设备预算倒推：135M适合轻量分类和简单改写，360M适合基础助手，1.7B
更适合本地问答与工具调用。别只看参数，量化、上下文长度和推理框架同样关键。

🗳️ 读者观点微投票 · 您的实战立场是？

1.7B本地模型，真能替代云端助手吗？

🕸️ 语宙向量知识图谱 · 语义强关联深度内链

[🔓 所属权威专题：开源大模型与端侧推理 →](https://paooo.com/topics/open-source-llm/)

 * [SmolVLM – Hugging Face推出的轻量级视觉语言模型](https://paooo.com/aigc-news/25283/)
 * [MobileLLM – Meta推出的适合移动端的语言模型](https://paooo.com/aigc-news/25933/)
 * [Llama 3.3 – Meta AI推出的纯文本语言模型](https://paooo.com/aigc-news/25032/)
 * [Llama 3 – Meta开源推出的新一代大语言模型](https://paooo.com/aigc-news/27953/)

[🏛️ Prompt 语宙研究院](https://paooo.com/author/paooo-research/) · Prompt 语宙研究院（
paooo.com Research）专注于前沿多模态大模型架构拆解、AI Agent 工作流评测、AIGC 提示
词工程（Prompt Engineering）与全球高增长 AI 生产力工具实测追踪，致力于为中文开发
者与创作者提供一手、可复现的深度技术洞察。

[📄 Markdown 纯净版](https://paooo.com/aigc-news/25930/?format=md)

💡 这篇内容对您有启发吗？

[📡 RSS 订阅](https://paooo.com/feed/)[✨ 提交 AI 工具 / 合作](https://paooo.com/submit-tool/)

**🚀 Prompt 语宙 AI 创作者生态：**探索 2,800+ 全球实用 AI 工具与高精度生图提示词
咒语库

[🧭 语宙 AI 导航 (ai.paooo.com)](https://ai.paooo.com/)[🎨 AI 生图 Prompt 库](https://paooo.com/ai-image-prompts/)
[📚 核心专题导航](https://paooo.com/topics/)[⚡ AIGC 早报生成器](https://paooo.com/mtool/)
