Prompt 语宙Prompt 语宙
  • 首页
  • 语宙 AI 导航
  • AIGC 资讯
    • AIGC 早报生成器Hot
    • 最新趋势
    • AI 工具
    • 热门资源
    • 强化 AI 学习
  • AI 绘图
    • Prompt 实战
    • AI 绘画教程
    • 模型精选
  • AI 图库
    • 人物
    • 展台场景
    • Banner
    • 游戏
    • 动物
    • 食物
    • 自然
    • 背景
    • 海报
    • 建筑
    • 室内设计
  • 出海数字营销宝典
  • AI 生图 Prompt
    • 写实人像
    • 产品与广告
    • 游戏资产与 3D
    • 界面与图标
    • 建筑与室内
    • 动漫与插画
    • 风景与自然
搜索 AIGC 资讯、Prompt 咒语与 AI 工具
  • 语宙 AI 导航
  • 全部资讯
  • AI 生图咒语库
  • AIGC 早报生成器
  • 核心专题
  • 提交工具 / 合作
© 2023–2026 Prompt 语宙 (paooo.com). HalfPX. All Rights Reserved.
阅读: 阶跃星辰开源Step 3.5 Flash:1960亿参数MoE模型,350TPS极速推理与Agent性能比肩顶尖闭源模型
Share
通知 阅读更多
Font Resizer字体
Font Resizer字体
Prompt 语宙Prompt 语宙
搜索 AIGC 资讯、Prompt 咒语与 AI 工具
  • 首页
  • 语宙 AI 导航
  • AIGC 资讯
    • AIGC 早报生成器Hot
    • 最新趋势
    • AI 工具
    • 热门资源
    • 强化 AI 学习
  • AI 绘图
    • Prompt 实战
    • AI 绘画教程
    • 模型精选
  • AI 图库
    • 人物
    • 展台场景
    • Banner
    • 游戏
    • 动物
    • 食物
    • 自然
    • 背景
    • 海报
    • 建筑
    • 室内设计
  • 出海数字营销宝典
  • AI 生图 Prompt
    • 写实人像
    • 产品与广告
    • 游戏资产与 3D
    • 界面与图标
    • 建筑与室内
    • 动漫与插画
    • 风景与自然
已有帐户? 登陆
  • 语宙 AI 导航
  • 全部资讯
  • AI 生图咒语库
  • AIGC 早报生成器
  • 核心专题
  • 提交工具 / 合作
© 2023–2026 Prompt 语宙 (paooo.com). HalfPX. All Rights Reserved.
阶跃星辰开源Step 3.5 Flash:1960亿参数MoE模型,350TPS极速推理与Agent性能比肩顶尖闭源模型
Prompt 语宙 > AI 工具 > 阶跃星辰开源Step 3.5 Flash:1960亿参数MoE模型,350TPS极速推理与Agent性能比肩顶尖闭源模型
AI 工具AIGC 资讯

阶跃星辰开源Step 3.5 Flash:1960亿参数MoE模型,350TPS极速推理与Agent性能比肩顶尖闭源模型

Prompt 语宙研究院
最近更新: 2026年6月7日 下午8:06
Agent AI智能体 AI编程 Llama MoE架构 大模型微调 开源大模型 开源模型 本地部署
SHARE
⚡ Prompt 语宙 AI 导读 · 30 秒核心看点
  • 1960亿总参数、仅激活110亿参数,兼顾大模型能力与推理效率。
  • MTP-3带来最高350 TPS生成速度,Agent与代码任务表现突出。
  • 支持256K长上下文和本地部署,适合隐私敏感的企业场景。

💡 站外导读:随着大模型从“大力出奇迹”向“高效实用”演进,如何在海量参数与推理效率间取得平衡,成为行业核心痛点。阶跃星辰推出的Step 3.5 Flash正切中这一要害:它是一款专为Agent场景设计的开源基座模型,通过创新的稀疏MoE架构,在拥有1960亿总参数的同时,仅激活110亿参数进行计算,从而在数学推理、代码生成等关键任务上达到顶尖闭源模型水平,并支持消费级硬件本地部署,解决了企业用户对数据隐私与高性能的双重焦虑。

Step 3.5 Flash是什么

Step 3.5 Flash 是阶跃星辰最新开源的基座模型,专为 Agent 场景推出。模型采用稀疏 MoE 架构,总参数 1960 亿,每 token 仅激活 110 亿参数,兼顾性能与效率。Step 3.5 Flash推理速度高达 350 TPS,支持 256K 长上下文,在数学推理、代码生成(SWE-bench 74.4%)和 Agent 任务上媲美顶级闭源模型。Step 3.5 Flash已开源并支持 vLLM、SGLang、llama.cpp 等框架,可在 Mac Studio M4 Max、NVIDIA DGX Spark 等消费级硬件本地部署,实现数据隐私与高性能兼得。

阅读目录
  • Step 3.5 Flash是什么
  • Step 3.5 Flash的主要功能
  • Step 3.5 Flash的技术原理
  • Step 3.5 Flash的项目地址
  • Step 3.5 Flash的应用场景
      • 📝 站长洞察 (Editor’s Insight)

Step 3.5 Flash

Step 3.5 Flash的主要功能

  • 高速推理:模型通过 MTP-3 技术实现最高 350 TPS 的生成速度,支持复杂多步推理的即时响应。
  • Agent 能力:模型专为智能体任务设计,在 SWE-bench Verified 达到 74.4%,可处理长链条复杂任务。
  • 高效长文本:支持 256K 上下文窗口,采用混合注意力机制降低长文本计算开销。
  • 本地部署:优化消费级硬件支持,可在 Mac Studio M4 Max、NVIDIA DGX Spark 等设备流畅运行。
  • 代码生成:模型具备强大的编程能力,支持自动工具调用和结构化推理输出。

Step 3.5 Flash的技术原理

  • 稀疏 MoE 架构:模型采用 45 层 Transformer 骨干网络,每层配置 288 个细粒度路由专家和 1 个共享专家。推理时仅激活 Top-8 专家,每 token 实际计算约 110 亿参数,实现 1960 亿总参数规模的模型能力与小模型推理成本的平衡。
  • MTP-3 多 Token 预测:通过滑动窗口注意力机制与密集前馈网络组成的专用预测头,单次前向传播并行生成 4 个 token。将典型场景生成速度提升至 100-300 tok/s,峰值可达 350 tok/s,显著降低解码延迟。
  • 混合注意力机制:采用 3:1 滑动窗口注意力与全局注意力层交替的架构设计。滑动窗口层聚焦局部上下文,全局层捕捉长距离依赖,在 256K 长文本场景下有效控制计算复杂度,兼顾效率与性能。
  • 推理优化策略:模型支持专家并行(EP8)与张量并行(TP8)的组合部署,配合 FP8 量化降低显存带宽压力。通过投机解码与 MTP 协同,在 Hopper GPU 上实现高效服务化部署。

Step 3.5 Flash的项目地址

  • 项目官网:https://static.stepfun.com/blog/step-3.5-flash/
  • GitHub仓库:https://github.com/stepfun-ai/Step-3.5-Flash/
  • HuggingFace模型库:https://huggingface.co/stepfun-ai/Step-3.5-Flash
  • arXiv技术论文:https://arxiv.org/pdf/2602.10604

Step 3.5 Flash的应用场景

  • 智能编程开发:作为 Claude Code、Codex 等工具的底层模型,提供代码生成、自动调试、软件工程任务处理等能力,在 SWE-bench Verified 上达到 74.4% 的通过率。
  • 自主智能体执行:适用深度研究、网页信息检索、跨平台数据对比等需要长链条推理的 Agent 场景。
  • 实时对话交互:凭借 100-350 TPS 的生成速度,支撑低延迟聊天机器人、在线教育辅导、智能客服等需要即时响应的交互应用。
  • 长文本分析处理:可进行学术论文研读、法律合同审查、大型代码库理解,高效提取并整合海量信息。
  • 端侧隐私计算:可在 Mac Studio M4 Max、NVIDIA DGX Spark 等本地设备部署,满足金融、医疗、企业办公等敏感数据的私有化处理需求。

📝 站长洞察 (Editor’s Insight)

Step 3.5 Flash的发布,标志着开源大模型竞争进入“效率与场景化”的新阶段。其核心突破不仅在于1960亿参数MoE架构带来的性能-成本平衡,更在于MTP-3技术将推理速度推至350 TPS,这为实时性要求高的Agent应用(如自动化编程、深度研究)打开了大门。结合256K长上下文与消费级硬件部署能力,它实质上构建了一个“隐私优先、高性能、低延迟”的本地AI解决方案蓝图,直击企业端对数据安全与合规的深层需求。这不仅是技术迭代,更是商业模式的演进——它预示着AI能力正从云端垄断,走向分布式、可私有化的新范式,为开发者及垂直行业(如金融、医疗)提供了更具自主权的AI基础设施选择。

🧭 文中关联 AI 工具官网与参数卡(语宙 AI 导航)
HuggingFace ↗
HuggingFace:AI模型开发社区,面向大语言模型场景提供便捷实用的在线功能支持,涵盖大模型等实用方向。
LLaMA ↗
Meta(Facebook)推出的AI大语言模型。
LLaMA ↗
在线AI大模型微调平台,零代码、可视化操作。
❓ 常见问题解答(FAQ)
Step 3.5 Flash适合做什么?

它主要面向Agent、代码生成、长文本处理和实时对话场景,适合自动化编程、深度研究、网页检索、智能客服等需要低延迟和长链条推理的应用,也支持本地部署以满足隐私需求。

Step 3.5 Flash为什么推理这么快?

核心原因是稀疏MoE架构与MTP-3多Token预测。前者让每个token只激活约110亿参数,后者可并行生成多个token,再配合混合注意力和推理优化,把速度提升到最高350 TPS。

Step 3.5 Flash能本地部署吗?

可以。文章提到它已支持vLLM、SGLang、llama.cpp等框架,并可在Mac Studio M4 Max、NVIDIA DGX Spark等消费级硬件上部署,适合对数据安全和私有化有要求的企业。

🔬 语宙深潜追问 · 进阶实操拆解
MoE模型落地最怕什么?

最怕路由不稳定、专家利用率低和推理链路复杂。落地时要重点监控激活分布、热点专家拥塞和批处理效率,否则理论上的高吞吐很容易被工程开销吃掉。

256K上下文如何真正用起来?

先把长上下文分成检索、摘要、推理三层:原文只保留关键证据,次级内容做压缩摘要,最终输入聚焦任务目标。这样既能保留长程信息,又能避免无效 token 拖慢推理。

🗳️ 读者观点微投票 · 您的实战立场是?
1960亿MoE开源后,闭源模型还稳吗?
🕸️ 语宙向量知识图谱 · 语义强关联深度内链
🐋 所属权威专题:DeepSeek 深度实战与部署 →
  • 阶跃星辰开源 Step 3.7 Flash:196B参数MoE架构,400 Tokens/s极速推理,专为智能体生产落地优化
  • Step 3.7 Flash 重磅开源发布:198B MoE架构实现400TPS推理,Agent效率与可靠性新时代已至
  • Step 3.7 Flash – 阶跃星辰开源的新一代 Flash 模型
  • 阶跃星辰Step 3发布:321B参数多模态推理模型,效率提升300%并即将开源
🏛️ Prompt 语宙研究院 · Prompt 语宙研究院(paooo.com Research)专注于前沿多模态大模型架构拆解、AI Agent 工作流评测、AIGC 提示词工程(Prompt Engineering)与全球高增长 AI 生产力工具实测追踪,致力于为中文开发者与创作者提供一手、可复现的深度技术洞察。
📄 Markdown 纯净版
💡 这篇内容对您有启发吗?
📡 RSS 订阅✨ 提交 AI 工具 / 合作
🚀 Prompt 语宙 AI 创作者生态:探索 2,800+ 全球实用 AI 工具与高精度生图提示词咒语库
🧭 语宙 AI 导航 (ai.paooo.com)🎨 AI 生图 Prompt 库📚 核心专题导航⚡ AIGC 早报生成器
Nemotron-Labs-TwoTower – 英伟达开源的双塔架构扩散语言模型
拖拉机与马对生成式 AI 的启示 —— 拖拉机简史 [译]
10秒视频仅需12秒出片!fal 携手 Black Forest Labs 重磅开源 FLUX 3 Max 视频大模型:首创 Self-Flow 统一表示空间,同画质比 Seedance 快 22 倍并打通原生音画对话全流程深度评测
iDP3 – 斯坦福大学联合多所高校推出的改进型3D视觉运动策略
Languine – 面向开发者自动化应用程序的多语言翻译 AI 工具
TAGGED:AgentAI智能体AI编程LlamaMoE架构大模型微调开源大模型开源模型本地部署
分享
Email 复制链接 打印
Share
Prompt 语宙研究院 头像
ByPrompt 语宙研究院
Follow:
Prompt 语宙研究院(paooo.com Research)专注于前沿多模态大模型架构拆解、AI Agent 工作流评测、AIGC 提示词工程(Prompt Engineering)与全球高增长 AI 生产力工具实测追踪,致力于为中文开发者与创作者提供一手、可复现的深度技术洞察。
上一篇 Happy开源AI编程神器:手机远程监控Claude Code,实时掌控开发任务进度 Happy开源AI编程神器:手机远程监控Claude Code,实时掌控开发任务进度
下一篇 生数科技Vidu Q3重磅发布:全球首款16秒音画同步AI视频生成模型,技术原理与应用场景全解析 生数科技Vidu Q3重磅发布:全球首款16秒音画同步AI视频生成模型,技术原理与应用场景全解析
Ad image
Ad image

最近更新

WordPress 7.2版本更新与默认随机重定向、Secrets API撤回及MCP核心能力拆解封面图
官方博客竟把关闭过滤器写错了!WordPress 7.2前瞻全拆解:默认/random/暗藏隐私与SEO风险、Secrets API紧急撤回与3项MCP只读能力落地
AI 工具
Anthropic上市募资与算力长约的隐喻:现金光环上升,数据中心暗链延伸,治理水晶承受张力与阻力冲击。
募资超1070亿美元却背负9000亿算力长约!Anthropic史上最大IPO背后的三大隐忧:1040亿年内亏损、地方抵制潮与PBC治理死结
AIGC 资讯
微软Copilot与Claude/ChatGPT价格战隐喻:发光玻璃表格堡垒守住Excel,数据流高效汇聚,企业AI竞争升级
3000万付费仅吃下4.5亿席位不到7%!微软Ignite正面叫板Claude与ChatGPT:月均30美元VS 205美元价格战与Excel保卫战全拆解
AIGC 资讯
联想AI推理时代的端边云全栈算力插画:玻璃拟态服务器核心发光,光流连接云端与边缘节点,呈现营收与订单增长动能。
AI营收暴涨80%且握5300亿服务器订单!联想Q2单季营收首破2000亿、净利狂飙166%:端边云全栈算力如何接住推理时代红利?
AIGC 资讯

相关推荐

Kiss3DGen – 基于图像扩散模型的3D资产生成框架
AIGC 资讯

Kiss3DGen – 基于图像扩散模型的3D资产生成框架

Prompt 语宙研究院
3D与空间智能 ComfyUI stable diffusion 大模型微调 开源大模型
Self-Lengthen – 阿里千问推出的提升输出长度迭代训练框架
AIGC 资讯

Self-Lengthen – 阿里千问推出的提升输出长度迭代训练框架

Prompt 语宙研究院
AI智能体 大模型微调 开源大模型 通义千问
Quanta Quest – 开源的AI个人数据库产品,多平台数据整合
AIGC 资讯

Quanta Quest – 开源的AI个人数据库产品,多平台数据整合

Prompt 语宙研究院
AI办公效率 AI智能体 RAG检索增强 开源大模型
OmniSVG – 复旦大学联合 StepFun 推出端到端多模态矢量图形生成模型
AIGC 资讯

OmniSVG – 复旦大学联合 StepFun 推出端到端多模态矢量图形生成模型

Prompt 语宙研究院
Adobe AI绘画提示词 HuggingFace 开源大模型 通义千问
/ Prompt 语宙 /

探索生成式 AI 的无限创作潜能,一站式获取前沿 AIGC 资讯、高阶 Prompt 咒语与全球实用 AI 工具。

核心专栏

  • 语宙 AI 工具导航
  • EVA 视觉抠图工坊Hot
  • 出海数字营销宝典
  • AI 生图咒语灵感库
  • 24H 硅谷 AI 情报流

生态与服务

  • 语宙 AI 导航
  • 全部资讯
  • AI 生图咒语库
  • AIGC 早报生成器
  • 核心专题
  • 提交工具 / 合作

标签

开源大模型 AI智能体 AI办公效率 AI绘画提示词 OpenAI 大模型微调 Midjourney AI编程 stable diffusion AI视频生成 ChatGPT 3D与空间智能 HuggingFace AI音频与语音 RAG检索增强 Claude Flux AIGC Gemini 通义千问 Anthropic Llama Cursor DeepSeek Prompt AI Agent Kimi 智谱AI 具身智能 YouTube
Prompt 语宙Prompt 语宙
Follow US
© 2023–2026 Prompt 语宙 (paooo.com). HalfPX. All Rights Reserved.