# Mistral Small 3 – Mistral AI 推出的开源大语言模型

- Link: https://paooo.com/aigc-news/22509/
- Published: 2026-06-08T20:19:14+08:00
- Author: Prompt 语宙研究院

⚡ [Prompt](https://paooo.com/ai-image-prompts/) 语宙 AI 导读 · 30 秒核心看点

 * 240亿参数、40层 Transformer、32k 上下文，兼顾长文本处理与多语言推理。
 * 低延迟是核心卖点：同硬件推理速度比 Llama 3.3 70B 快 3 倍以上。
 * 支持本地部署与开源定制，适合客服、自动化工作流和专业领域应用。

## Mistral Small 3是什么

Mistral Small 3 是 Mistral AI 发布的开源大型语言模型，有240亿参数，基于 Apache 2.0
许可证开源。专为低延迟任务设计，支持多语言（包括英语、中文、日语等），在推理和多
语言处理方面表现出色。模型采用 Transformer 架构，具有40层，上下文窗口为32k，支持
长篇输入。优化了本地推理能力，可在 RTX 4090 GPU 或32GB RAM的笔记本上运行，适合对话
式AI、自动化任务和专业领域应用。

阅读目录

 * [Mistral Small 3是什么](https://paooo.com/aigc-news/22509/#mistral-small-3%e6%98%af%e4%bb%80%e4%b9%88)
 * [Mistral Small 3的主要功能](https://paooo.com/aigc-news/22509/#mistral-small-3%e7%9a%84%e4%b8%bb%e8%a6%81%e5%8a%9f%e8%83%bd)
 * [Mistral Small 3的项目地址](https://paooo.com/aigc-news/22509/#mistral-small-3%e7%9a%84%e9%a1%b9%e7%9b%ae%e5%9c%b0%e5%9d%80)
 * [Mistral Small 3的应用场景](https://paooo.com/aigc-news/22509/#mistral-small-3%e7%9a%84%e5%ba%94%e7%94%a8%e5%9c%ba%e6%99%af)

![Mistral Small 3](https://paooo.com/wp-content/uploads/2026/06/Mistral-Small-3-
website-1.avif)

## Mistral Small 3的主要功能

 * **低延迟优化**：Mistral Small 3 专为低延迟任务设计，适合需要快速响应的场景，如
   虚拟助手、自动化工作流和实时 AI 应用。在相同硬件上的推理速度比 Llama 3.3 70B 
   快 3 倍以上。
 * **高性能**： 240 亿参数，性能可与 Llama 3.3 70B 和 Qwen 32B 等更大规模的模型媲美。
   在 MMLU 基准测试中，准确率超过 81%，延迟仅为 150 tokens/s。
 * **多语言支持**：支持多种语言，包括英语、法语、德语、西班牙语、意大利语、中文、
   日语、韩语等。
 * **本地部署能力**：适合对数据隐私要求较高的场景，可以在单块 NVIDIA RTX 4090 显
   卡或配备 32GB 内存的 MacBook 上运行。
 * **开源与可定制**：基于 Apache 2.0 许可证开源，开发者可以自由修改和部署，适合企业
   级应用。
 * **指令跟随与推理能力**：经过指令微调，能理解和执行各种任务，包括代码生成、数学
   计算和一般知识问答。

## Mistral Small 3的项目地址

 * **项目官网**：[https://mistral.ai/news/mistral-small-3/](https://mistral.ai/news/mistral-small-3/?utm_source=ai-bot.cn)

## Mistral Small 3的应用场景

 * **虚拟助手**：Mistral Small 3 可以作为虚拟助手，快速响应用户需求，提供自然语言
   交互。
 * **客服系统**：集成到客服系统中，自动回答常见问题，提升用户体验。
 * **工作流程自动化**：在自动化工作流程中快速执行任务，提高效率。
 * **医疗诊断**：通过微调，可用于医疗诊断系统，快速生成诊断建议。
 * **法律咨询**：在法律领域提供专业建议，帮助用户解答法律问题。

🧭 文中关联 [AI 工具](https://ai.paooo.com/)官网与参数卡（语宙 AI 导航）

**Llama 3 ↗**

Meta最新开源推出的新一代大模型。

**LLaMA ↗**

Meta（Facebook）推出的AI大语言模型。

**LLaMA ↗**

在线AI大模型微调平台，零代码、可视化操作。

❓ 常见问题解答（FAQ）

Mistral Small 3适合本地部署吗？

适合。文章显示它针对本地推理做了优化，可在单块 NVIDIA RTX 4090 显卡或配备 32GB 内存
的笔记本上运行，适合对数据隐私和低延迟有要求的场景。

Mistral Small 3和Llama 3.3 70B相比怎么样？

文章提到，Mistral Small 3 在相同硬件上的推理速度比 Llama 3.3 70B 快 3 倍以上；同时
在 MMLU 测试中准确率超过 81%，兼顾速度与效果。

Mistral Small 3能用于哪些场景？

可用于虚拟助手、客服系统、工作流自动化，也可通过微调应用到医疗诊断和法律咨询等专业
场景，尤其适合需要快速响应和多语言支持的任务。

🔬 语宙深潜追问 · 进阶实操拆解

24B模型本地部署怎么压显存？

优先用 4bit/8bit 量化、KV cache 优化和批处理控制；如果是单卡 4090，尽量限制上下文
长度并开启推理框架的分页缓存。这样能把显存压力压到可控范围，同时保住大部分效果。

Apache 2.0 对商业化意味着什么？

它允许你在闭源产品里集成和二次开发，商业化限制很少，但仍要保留版权和许可声明。对
企业来说，这类许可最大的价值是降低法务摩擦，方便快速试点和私有化交付。

🗳️ 读者观点微投票 · 您的实战立场是？

开源[大模型](https://paooo.com/ai-study/)落地，先要低延迟还是强能力？

🕸️ 语宙向量知识图谱 · 语义强关联深度内链

[🐋 所属权威专题：DeepSeek 深度实战与部署 →](https://paooo.com/topics/deepseek/)

 * [Mistral Small 3.1 – Mistral AI 开源的多模态 AI 模型](https://paooo.com/aigc-news/20970/)
 * [Mistral Medium 3 – Mistral AI推出的多模态语言模型](https://paooo.com/aigc-news/19966/)
 * [Mistral Small 4 开源发布：统一推理、多模态与编码的全能模型，性能飙升成本骤降](https://paooo.com/aigc-news/11476/)
 * [Mistral 3大模型重磅发布：MoE架构、675B参数、多模态开源，定义AI效率新标杆](https://paooo.com/aigc-news/12828/)

[🏛️ Prompt 语宙研究院](https://paooo.com/author/paooo-research/) · Prompt 语宙研究院（
paooo.com Research）专注于前沿多模态大模型架构拆解、AI Agent 工作流评测、AIGC 提示
词工程（Prompt Engineering）与全球高增长 AI 生产力工具实测追踪，致力于为中文开发
者与创作者提供一手、可复现的深度技术洞察。

[📄 Markdown 纯净版](https://paooo.com/aigc-news/22509/?format=md)

💡 这篇内容对您有启发吗？

[📡 RSS 订阅](https://paooo.com/feed/)[✨ 提交 AI 工具 / 合作](https://paooo.com/submit-tool/)

**🚀 Prompt 语宙 AI 创作者生态：**探索 2,800+ 全球实用 AI 工具与高精度生图提示词
咒语库

[🧭 语宙 AI 导航 (ai.paooo.com)](https://ai.paooo.com/)[🎨 AI 生图 Prompt 库](https://paooo.com/ai-image-prompts/)
[📚 核心专题导航](https://paooo.com/topics/)[⚡ AIGC 早报生成器](https://paooo.com/mtool/)
