Seed-Thinking-v1.5是什么
Seed-Thinking-v1.5 是字节跳动推出的推理智能模型,采用混合专家(MoE)架构,总参数量为 200B,每次激活 20B 参数。模型在多个基准测试中表现出色,如在 AIME 2024 测试中获得 86.7 分,在 Codeforces 评测中 pass@8 指标达到 55.0 分,在 GPQA 测试中获得 77.3 分。在非推理任务中胜率比 DeepSeek R1 高出 8%,展现出广泛的适用性。Seed-Thinking-v1.5 的开发涉及精心策划的训练数据、先进的强化学习框架、双层奖励系统和高效的基础设施。模型将于 4 月 17 日通过火山引擎开放接口供用户体验。
阅读目录

Seed-Thinking-v1.5的主要功能
- 卓越的推理能力:Seed-Thinking-v1.5 在多个权威基准测试中表现出色,例如在 AIME 2024 测试中获得 86.7 分,在 Codeforces 评测中 pass@8 指标达到 55.0%,在 GPQA 测试中获得 77.3 分。表明其在 STEM(科学、技术、工程和数学)领域以及编程方面具有强大的推理能力。
- 广泛的泛化能力:模型在非推理任务中也表现出色,胜率比 DeepSeek R1 高出 8%,显示出其在复杂用户场景处理能力方面的优势。
- 高效的基础设施:为支持大规模训练,Seed-Thinking-v1.5 采用了 HybridFlow 编程模型和流式推理系统(SRS),通过三层并行架构(张量/专家/序列并行)优化了训练效率。
Seed-Thinking-v1.5的技术原理
- 混合专家模型(MoE)架构:Seed-Thinking-v1.5 采用了混合专家模型(Mixture-of-Experts, MoE)架构,总参数量为 200B,每次激活 20B 参数。在保持高性能的同时,显著减少了计算资源的消耗,提高了模型的效率。
- 强化学习算法
- VAPO 和 DAPO 框架:为解决强化学习训练中的不稳定性问题,研究团队提出了 VAPO(面向 Actor-Critic)和 DAPO(面向 Policy Gradient)两大框架。这两种方法能提供稳健的训练轨迹,有效优化推理模型。
- 奖励建模:团队设计了两种奖励建模方案,Seed-Verifier 和 Seed-Thinking-Verifier。Seed-Thinking-Verifier 通过详细的推理过程,解决了奖励欺骗、预测不确定性和边界情况处理失败等问题。
- 数据处理与增强
- 可验证问题:包括数学、编程和逻辑谜题,通过严格筛选与增强(如将选择题转为填空题),确保模型学习到真实的推理能力。
- 非可验证问题:如创意写作和对话,通过动态过滤低方差样本,避免模型陷入局部优化。
- 数据增强策略:例如用模型生成候选答案,结合人工验证修正错误参考答案,提升数据可靠性。
- 分布式训练基础设施
- 混合并行架构:结合张量并行(TP)、专家并行(EP)和上下文并行(CP),支持高效的大规模训练。
- 流式生成系统(SRS):通过异步处理和动态资源调度,将长文本生成的效率提升 3 倍,解决了传统同步框架的“拖尾问题”。
- 自动调优系统:根据实时负载动态选择最优计算配置,平衡内存与计算资源。
Seed-Thinking-v1.5的项目地址
Seed-Thinking-v1.5的性能表现
- 数学推理:在 AIME 2024 测试中获得 86.7 分,与 OpenAI 的 o3-mini-high 持平。
- 编程任务:在 Codeforces 评测中,pass@8 指标达到 55.0%,优于 DeepSeek-R1。
- 科学问答:在 GPQA 测试中准确率达 77.3%,接近顶尖模型水平。
- 非推理任务:在非推理任务中,胜率比 DeepSeek R1 高出 8%,表现出较强的泛化能力。
Seed-Thinking-v1.5的应用场景
- 科学问答:Seed-Thinking-v1.5 在科学问答方面也有显著表现。模型能理解和回答涉及科学概念和原理的复杂问题,适用于教育和研究领域。
- 创意写作:模型能生成跨时空对话,例如模拟历史人物的内心独白或融合不同领域术语的叙事。在内容创作、广告、剧本编写等领域具有潜在的应用价值。
- 逻辑推理:Seed-Thinking-v1.5 在处理需要逻辑分析和推理的问题时具有显著优势,适用于需要逻辑判断和分析的场景,如法律分析、市场策略规划等。
- 教育辅助:Seed-Thinking-v1.5 的推理能力可以帮助学生解决数学和科学问题,提供编程练习的反馈,辅助语言学习。
🧭 文中关联 AI 工具官网与参数卡(语宙 AI 导航)
❓ 常见问题解答(FAQ)
Seed-Thinking-v1.5是什么模型?
Seed-Thinking-v1.5 是字节跳动推出的推理智能模型,采用混合专家(MoE)架构,总参数量 200B、每次激活 20B。它重点强化数学、编程和科学问答等推理能力,同时也兼顾非推理任务表现。
Seed-Thinking-v1.5的基准成绩怎么样?
公开信息显示,它在 AIME 2024 上获得 86.7 分,Codeforces 评测 pass@8 达到 55.0%,GPQA 得分 77.3 分;在非推理任务中,胜率比 DeepSeek R1 高出 8%。
Seed-Thinking-v1.5适合哪些应用场景?
它适合科学问答、编程辅助、逻辑推理、创意写作和教育辅助等场景。尤其在 STEM 问题、代码推理和复杂分析任务中表现突出,也适合需要较强泛化能力的用户场景。
🔬 语宙深潜追问 · 进阶实操拆解
MoE模型如何控制线上延迟?
关键是减少路由抖动和专家切换成本:固定热专家、做请求分桶、提升 batch 命中率,并在高峰期启用降级路由;同时监控 token 级延迟而不是只看平均吞吐。
非推理任务提升8%意味着什么?
说明模型不只会做链式思考,也保留了通用语言能力;落地时可把它用于摘要、分类、改写和代码补全,但仍需用业务数据验证是否真能带来端到端收益。
🗳️ 读者观点微投票 · 您的实战立场是?
200B MoE 只激活20B,这种性价比路线靠谱吗?
