---
title: "阶跃星辰开源Step 3.5 Flash：1960亿参数MoE模型，350TPS极速推理与Agent性能比肩顶尖闭源模型"
url: "https://paooo.com/aigc-news/11529/"
author: "Prompt 语宙研究院"
published_at: "2026-06-11T18:42:22+08:00"
updated_at: "2026-06-07T20:06:36+08:00"
categories: "AI 工具, AIGC 资讯"
tags: "Agent, AI智能体, AI编程, Llama, MoE架构, 大模型微调, 开源大模型, 开源模型, 本地部署"
source: "Prompt 语宙 (https://paooo.com)"
ai_tools_directory: "语宙 AI 导航 (https://ai.paooo.com)"
---

# 阶跃星辰开源Step 3.5 Flash：1960亿参数MoE模型，350TPS极速推理与Agent性能比肩顶尖闭源模型

> 来源：[Prompt 语宙 (paooo.com)](https://paooo.com/aigc-news/11529/) · 作者：Prompt 语宙研究院 · 发布时间：2026-06-11

## AI 30 秒核心看点 (TL;DR)

- 1960亿总参数、仅激活110亿参数，兼顾大模型能力与推理效率。
- MTP-3带来最高350 TPS生成速度，Agent与代码任务表现突出。
- 支持256K长上下文和本地部署，适合隐私敏感的企业场景。

> 
                **💡 站外导读：**随着大模型从“大力出奇迹”向“高效实用”演进，如何在海量参数与推理效率间取得平衡，成为行业核心痛点。阶跃星辰推出的Step 3.5 Flash正切中这一要害：它是一款专为Agent场景设计的开源基座模型，通过创新的稀疏MoE架构，在拥有1960亿总参数的同时，仅激活110亿参数进行计算，从而在数学推理、代码生成等关键任务上达到顶尖闭源模型水平，并支持消费级硬件本地部署，解决了企业用户对数据隐私与高性能的双重焦虑。

            

             
                        

## Step 3.5 Flash是什么

Step 3.5 Flash 是阶跃星辰最新开源的基座模型，专为 Agent 场景推出。模型采用稀疏 MoE 架构，总参数 1960 亿，每 token 仅激活 110 亿参数，兼顾性能与效率。Step 3.5 Flash推理速度高达 350 TPS，支持 256K 长上下文，在数学推理、代码生成（SWE-bench 74.4%）和 Agent 任务上媲美顶级闭源模型。Step 3.5 Flash已开源并支持 vLLM、SGLang、llama.cpp 等框架，可在 Mac Studio M4 Max、NVIDIA DGX Spark 等消费级硬件本地部署，实现数据隐私与高性能兼得。

## Step 3.5 Flash的主要功能

- 
**高速推理**：模型通过 MTP-3 技术实现最高 350 TPS 的生成速度，支持复杂多步推理的即时响应。

- 
**Agent 能力**：模型专为智能体任务设计，在 SWE-bench Verified 达到 74.4%，可处理长链条复杂任务。

- 
**高效长文本**：支持 256K 上下文窗口，采用混合注意力机制降低长文本计算开销。

- 
**本地部署**：优化消费级硬件支持，可在 Mac Studio M4 Max、NVIDIA DGX Spark 等设备流畅运行。

- 
**代码生成**：模型具备强大的编程能力，支持自动工具调用和结构化推理输出。

## Step 3.5 Flash的技术原理

- **稀疏 MoE 架构**：模型采用 45 层 Transformer 骨干网络，每层配置 288 个细粒度路由专家和 1 个共享专家。推理时仅激活 Top-8 专家，每 token 实际计算约 110 亿参数，实现 1960 亿总参数规模的模型能力与小模型推理成本的平衡。

- **MTP-3 多 Token 预测**：通过滑动窗口注意力机制与密集前馈网络组成的专用预测头，单次前向传播并行生成 4 个 token。将典型场景生成速度提升至 100-300 tok/s，峰值可达 350 tok/s，显著降低解码延迟。

- **混合注意力机制**：采用 3:1 滑动窗口注意力与全局注意力层交替的架构设计。滑动窗口层聚焦局部上下文，全局层捕捉长距离依赖，在 256K 长文本场景下有效控制计算复杂度，兼顾效率与性能。

- **推理优化策略**：模型支持专家并行（EP8）与张量并行（TP8）的组合部署，配合 FP8 量化降低显存带宽压力。通过投机解码与 MTP 协同，在 Hopper GPU 上实现高效服务化部署。

## Step 3.5 Flash的项目地址

- **项目官网**：https://static.stepfun.com/blog/step-3.5-flash/

- **GitHub仓库**：https://github.com/stepfun-ai/Step-3.5-Flash/

- **HuggingFace模型库**：https://huggingface.co/stepfun-ai/Step-3.5-Flash

- **arXiv技术论文**：https://arxiv.org/pdf/2602.10604

## Step 3.5 Flash的应用场景

- **智能编程开发**：作为 Claude Code、Codex 等工具的底层模型，提供代码生成、自动调试、软件工程任务处理等能力，在 SWE-bench Verified 上达到 74.4% 的通过率。

- **自主智能体执行**：适用深度研究、网页信息检索、跨平台数据对比等需要长链条推理的 Agent 场景。

- **实时对话交互**：凭借 100-350 TPS 的生成速度，支撑低延迟聊天机器人、在线教育辅导、智能客服等需要即时响应的交互应用。

- **长文本分析处理**：可进行学术论文研读、法律合同审查、大型代码库理解，高效提取并整合海量信息。

- **端侧隐私计算**：可在 Mac Studio M4 Max、NVIDIA DGX Spark 等本地设备部署，满足金融、医疗、企业办公等敏感数据的私有化处理需求。

                    
            
                

#### 📝 站长洞察 (Editor's Insight)

                Step 3.5 Flash的发布，标志着开源大模型竞争进入“效率与场景化”的新阶段。其核心突破不仅在于1960亿参数MoE架构带来的性能-成本平衡，更在于MTP-3技术将推理速度推至350 TPS，这为实时性要求高的Agent应用（如自动化编程、深度研究）打开了大门。结合256K长上下文与消费级硬件部署能力，它实质上构建了一个“隐私优先、高性能、低延迟”的本地AI解决方案蓝图，直击企业端对数据安全与合规的深层需求。这不仅是技术迭代，更是商业模式的演进——它预示着AI能力正从云端垄断，走向分布式、可私有化的新范式，为开发者及垂直行业（如金融、医疗）提供了更具自主权的AI基础设施选择。

## 常见问题解答 (FAQ)

### Step 3.5 Flash适合做什么？
它主要面向Agent、代码生成、长文本处理和实时对话场景，适合自动化编程、深度研究、网页检索、智能客服等需要低延迟和长链条推理的应用，也支持本地部署以满足隐私需求。

### Step 3.5 Flash为什么推理这么快？
核心原因是稀疏MoE架构与MTP-3多Token预测。前者让每个token只激活约110亿参数，后者可并行生成多个token，再配合混合注意力和推理优化，把速度提升到最高350 TPS。

### Step 3.5 Flash能本地部署吗？
可以。文章提到它已支持vLLM、SGLang、llama.cpp等框架，并可在Mac Studio M4 Max、NVIDIA DGX Spark等消费级硬件上部署，适合对数据安全和私有化有要求的企业。

---
探索 2,800+ 全球实用 AI 工具与官方直达入口：[语宙 AI 导航 (https://ai.paooo.com/)](https://ai.paooo.com/)
