# 阶跃星辰开源Step 3.5 Flash：1960亿参数MoE模型，350TPS极速推理与Agent性能比肩顶尖闭源模型

- Link: https://paooo.com/aigc-news/11529/
- Published: 2026-06-11T18:42:22+08:00
- Author: Prompt 语宙研究院

⚡ [Prompt](https://paooo.com/ai-image-prompts/) 语宙 AI 导读 · 30 秒核心看点

 * 1960亿总参数、仅激活110亿参数，兼顾[大模型](https://paooo.com/ai-study/)能力与
   推理效率。
 * MTP-3带来最高350 TPS生成速度，[Agent](https://paooo.com/trends/)与代码任务表现
   突出。
 * 支持256K长上下文和本地部署，适合隐私敏感的企业场景。

> **💡 站外导读：**随着大模型从“大力出奇迹”向“高效实用”演进，如何在海量参数与推理
> 效率间取得平衡，成为行业核心痛点。阶跃星辰推出的Step 3.5 Flash正切中这一要害：
> 它是一款专为Agent场景设计的开源基座模型，通过创新的稀疏MoE架构，在拥有1960亿总
> 参数的同时，仅激活110亿参数进行计算，从而在数学推理、代码生成等关键任务上达到顶尖
> 闭源模型水平，并支持消费级硬件本地部署，解决了企业用户对数据隐私与高性能的双重
> 焦虑。

## Step 3.5 Flash是什么

Step 3.5 Flash 是阶跃星辰最新开源的基座模型，专为 Agent 场景推出。模型采用稀疏 MoE
架构，总参数 1960 亿，每 token 仅激活 110 亿参数，兼顾性能与效率。Step 3.5 Flash
推理速度高达 350 TPS，支持 256K 长上下文，在数学推理、代码生成（SWE-bench 74.4%）
和 Agent 任务上媲美顶级闭源模型。Step 3.5 Flash已开源并支持 vLLM、SGLang、llama.
cpp 等框架，可在 Mac Studio M4 Max、NVIDIA DGX Spark 等消费级硬件本地部署，实现数据
隐私与高性能兼得。

阅读目录

 * [Step 3.5 Flash是什么](https://paooo.com/aigc-news/11529/#step-35-flash%e6%98%af%e4%bb%80%e4%b9%88)
 * [Step 3.5 Flash的主要功能](https://paooo.com/aigc-news/11529/#step-35-flash%e7%9a%84%e4%b8%bb%e8%a6%81%e5%8a%9f%e8%83%bd)
 * [Step 3.5 Flash的技术原理](https://paooo.com/aigc-news/11529/#step-35-flash%e7%9a%84%e6%8a%80%e6%9c%af%e5%8e%9f%e7%90%86)
 * [Step 3.5 Flash的项目地址](https://paooo.com/aigc-news/11529/#step-35-flash%e7%9a%84%e9%a1%b9%e7%9b%ae%e5%9c%b0%e5%9d%80)
 * [Step 3.5 Flash的应用场景](https://paooo.com/aigc-news/11529/#step-35-flash%e7%9a%84%e5%ba%94%e7%94%a8%e5%9c%ba%e6%99%af)
       * [📝 站长洞察 (Editor’s Insight)](https://paooo.com/aigc-news/11529/#%f0%9f%93%9d-%e7%ab%99%e9%95%bf%e6%b4%9e%e5%af%9f-editor8217s-insight)

![Step 3.5 Flash](https://paooo.com/wp-content/uploads/2026/05/Step-3.5-Flash-website-
1-1.avif)

## Step 3.5 Flash的主要功能

 * **高速推理**：模型通过 MTP-3 技术实现最高 350 TPS 的生成速度，支持复杂多步推理
   的即时响应。
 * **Agent 能力**：模型专为智能体任务设计，在 SWE-bench Verified 达到 74.4%，可处理
   长链条复杂任务。
 * **高效长文本**：支持 256K 上下文窗口，采用混合注意力机制降低长文本计算开销。
 * **本地部署**：优化消费级硬件支持，可在 Mac Studio M4 Max、NVIDIA DGX Spark 等
   设备流畅运行。
 * **代码生成**：模型具备强大的编程能力，支持自动工具调用和结构化推理输出。

## Step 3.5 Flash的技术原理

 * **稀疏 MoE 架构**：模型采用 45 层 Transformer 骨干网络，每层配置 288 个细粒度
   路由专家和 1 个共享专家。推理时仅激活 Top-8 专家，每 token 实际计算约 110 亿参数，
   实现 1960 亿总参数规模的模型能力与小模型推理成本的平衡。
 * **MTP-3 多 Token 预测**：通过滑动窗口注意力机制与密集前馈网络组成的专用预测头，
   单次前向传播并行生成 4 个 token。将典型场景生成速度提升至 100-300 tok/s，峰值
   可达 350 tok/s，显著降低解码延迟。
 * **混合注意力机制**：采用 3:1 滑动窗口注意力与全局注意力层交替的架构设计。滑动
   窗口层聚焦局部上下文，全局层捕捉长距离依赖，在 256K 长文本场景下有效控制计算复杂
   度，兼顾效率与性能。
 * **推理优化策略**：模型支持专家并行（EP8）与张量并行（TP8）的组合部署，配合 FP8
   量化降低显存带宽压力。通过投机解码与 MTP 协同，在 Hopper GPU 上实现高效服务化
   部署。

## Step 3.5 Flash的项目地址

 * **项目官网**：https://static.stepfun.com/blog/step-3.5-flash/
 * **GitHub仓库**：https://github.com/stepfun-ai/Step-3.5-Flash/
 * **HuggingFace模型库**：https://huggingface.co/stepfun-ai/Step-3.5-Flash
 * **arXiv技术论文**：https://arxiv.org/pdf/2602.10604

## Step 3.5 Flash的应用场景

 * **智能编程开发**：作为 [Claude](https://paooo.com/aigc-news/) Code、Codex 等工具
   的底层模型，提供代码生成、自动调试、软件工程任务处理等能力，在 SWE-bench Verified
   上达到 74.4% 的通过率。
 * **自主智能体执行**：适用深度研究、网页信息检索、跨平台数据对比等需要长链条推理
   的 Agent 场景。
 * **实时对话交互**：凭借 100-350 TPS 的生成速度，支撑低延迟聊天机器人、在线教育
   辅导、智能客服等需要即时响应的交互应用。
 * **长文本分析处理**：可进行学术论文研读、法律合同审查、大型代码库理解，高效提取
   并整合海量信息。
 * **端侧隐私计算**：可在 Mac Studio M4 Max、NVIDIA DGX Spark 等本地设备部署，满足
   金融、医疗、企业办公等敏感数据的私有化处理需求。

#### 📝 站长洞察 (Editor’s Insight)

Step 3.5 Flash的发布，标志着开源大模型竞争进入“效率与场景化”的新阶段。其核心突破
不仅在于1960亿参数MoE架构带来的性能-成本平衡，更在于MTP-3技术将推理速度推至350 TPS，
这为实时性要求高的Agent应用（如自动化编程、深度研究）打开了大门。结合256K长上下文
与消费级硬件部署能力，它实质上构建了一个“隐私优先、高性能、低延迟”的本地AI解决方案
蓝图，直击企业端对数据安全与合规的深层需求。这不仅是技术迭代，更是商业模式的演进——
它预示着AI能力正从云端垄断，走向分布式、可私有化的新范式，为开发者及垂直行业（如
金融、医疗）提供了更具自主权的AI基础设施选择。

🧭 文中关联 AI 工具官网与参数卡（语宙 AI 导航）

**HuggingFace ↗**

HuggingFace：AI模型开发社区，面向大语言模型场景提供便捷实用的在线功能支持，涵盖大
模型等实用方向。

**LLaMA ↗**

Meta（Facebook）推出的AI大语言模型。

**LLaMA ↗**

在线AI大模型微调平台，零代码、可视化操作。

❓ 常见问题解答（FAQ）

Step 3.5 Flash适合做什么？

它主要面向Agent、代码生成、长文本处理和实时对话场景，适合自动化编程、深度研究、网页
检索、智能客服等需要低延迟和长链条推理的应用，也支持本地部署以满足隐私需求。

Step 3.5 Flash为什么推理这么快？

核心原因是稀疏MoE架构与MTP-3多Token预测。前者让每个token只激活约110亿参数，后者可
并行生成多个token，再配合混合注意力和推理优化，把速度提升到最高350 TPS。

Step 3.5 Flash能本地部署吗？

可以。文章提到它已支持vLLM、SGLang、llama.cpp等框架，并可在Mac Studio M4 Max、NVIDIA
DGX Spark等消费级硬件上部署，适合对数据安全和私有化有要求的企业。

🔬 语宙深潜追问 · 进阶实操拆解

MoE模型落地最怕什么？

最怕路由不稳定、专家利用率低和推理链路复杂。落地时要重点监控激活分布、热点专家拥塞
和批处理效率，否则理论上的高吞吐很容易被工程开销吃掉。

256K上下文如何真正用起来？

先把长上下文分成检索、摘要、推理三层：原文只保留关键证据，次级内容做压缩摘要，最终
输入聚焦任务目标。这样既能保留长程信息，又能避免无效 token 拖慢推理。

🗳️ 读者观点微投票 · 您的实战立场是？

1960亿MoE开源后，闭源模型还稳吗？

🕸️ 语宙向量知识图谱 · 语义强关联深度内链

[🐋 所属权威专题：DeepSeek 深度实战与部署 →](https://paooo.com/topics/deepseek/)

 * [阶跃星辰开源 Step 3.7 Flash：196B参数MoE架构，400 Tokens/s极速推理，专为智能体生产落地优化](https://paooo.com/aigc-news/18194/)
 * [Step 3.7 Flash 重磅开源发布：198B MoE架构实现400TPS推理，Agent效率与可靠性新时代已至](https://paooo.com/aigc-news/18285/)
 * [Step 3.7 Flash – 阶跃星辰开源的新一代 Flash 模型](https://paooo.com/aigc-news/18672/)
 * [阶跃星辰Step 3发布：321B参数多模态推理模型，效率提升300%并即将开源](https://paooo.com/aigc-news/14390/)

[🏛️ Prompt 语宙研究院](https://paooo.com/author/paooo-research/) · Prompt 语宙研究院（
paooo.com Research）专注于前沿多模态大模型架构拆解、AI Agent 工作流评测、AIGC 提示
词工程（Prompt Engineering）与全球高增长 AI 生产力工具实测追踪，致力于为中文开发
者与创作者提供一手、可复现的深度技术洞察。

[📄 Markdown 纯净版](https://paooo.com/aigc-news/11529/?format=md)

💡 这篇内容对您有启发吗？

[📡 RSS 订阅](https://paooo.com/feed/)[✨ 提交 AI 工具 / 合作](https://paooo.com/submit-tool/)

**🚀 Prompt 语宙 AI 创作者生态：**探索 2,800+ 全球实用 AI 工具与高精度生图提示词
咒语库

[🧭 语宙 AI 导航 (ai.paooo.com)](https://ai.paooo.com/)[🎨 AI 生图 Prompt 库](https://paooo.com/ai-image-prompts/)
[📚 核心专题导航](https://paooo.com/topics/)[⚡ AIGC 早报生成器](https://paooo.com/mtool/)
