Prompt 语宙Prompt 语宙
  • 首页
  • 语宙 AI 导航
  • AIGC 资讯
    • AIGC 早报生成器Hot
    • 最新趋势
    • AI 工具
    • 热门资源
    • 强化 AI 学习
  • AI 绘图
    • Prompt 实战
    • AI 绘画教程
    • 模型精选
  • AI 图库
    • 人物
    • 展台场景
    • Banner
    • 游戏
    • 动物
    • 食物
    • 自然
    • 背景
    • 海报
    • 建筑
    • 室内设计
  • 出海数字营销宝典
  • AI 生图 Prompt
    • 写实人像
    • 产品与广告
    • 游戏资产与 3D
    • 界面与图标
    • 建筑与室内
    • 动漫与插画
    • 风景与自然
搜索 AIGC 资讯、Prompt 咒语与 AI 工具
  • 语宙 AI 导航
  • 全部资讯
  • AI 生图咒语库
  • AIGC 早报生成器
  • 核心专题
  • 提交工具 / 合作
© 2023–2026 Prompt 语宙 (paooo.com). HalfPX. All Rights Reserved.
阅读: OpenAI开源推理模型gpt-oss:MoE架构、单卡可跑,性能叫板闭源巨头
Share
通知 阅读更多
Font Resizer字体
Font Resizer字体
Prompt 语宙Prompt 语宙
搜索 AIGC 资讯、Prompt 咒语与 AI 工具
  • 首页
  • 语宙 AI 导航
  • AIGC 资讯
    • AIGC 早报生成器Hot
    • 最新趋势
    • AI 工具
    • 热门资源
    • 强化 AI 学习
  • AI 绘图
    • Prompt 实战
    • AI 绘画教程
    • 模型精选
  • AI 图库
    • 人物
    • 展台场景
    • Banner
    • 游戏
    • 动物
    • 食物
    • 自然
    • 背景
    • 海报
    • 建筑
    • 室内设计
  • 出海数字营销宝典
  • AI 生图 Prompt
    • 写实人像
    • 产品与广告
    • 游戏资产与 3D
    • 界面与图标
    • 建筑与室内
    • 动漫与插画
    • 风景与自然
已有帐户? 登陆
  • 语宙 AI 导航
  • 全部资讯
  • AI 生图咒语库
  • AIGC 早报生成器
  • 核心专题
  • 提交工具 / 合作
© 2023–2026 Prompt 语宙 (paooo.com). HalfPX. All Rights Reserved.
OpenAI开源推理模型gpt-oss:MoE架构、单卡可跑,性能叫板闭源巨头
Prompt 语宙 > AI 工具 > OpenAI开源推理模型gpt-oss:MoE架构、单卡可跑,性能叫板闭源巨头
AI 工具AIGC 资讯

OpenAI开源推理模型gpt-oss:MoE架构、单卡可跑,性能叫板闭源巨头

Prompt 语宙研究院
最近更新: 2026年6月7日 下午8:21
GPT-OSS MoE架构 OpenAI 开源模型 推理模型
SHARE
⚡ Prompt 语宙 AI 导读 · 30 秒核心看点
  • gpt-oss以MoE架构和低精度量化实现高性能推理,降低了顶级模型部署门槛。
  • 20b版本可在16GB消费级设备运行,120b版本可在单张80GB GPU上运行。
  • 基准测试显示其在工具调用、健康问答等任务上接近或部分超越o4-mini。

💡 站外导读:在开源大模型竞争白热化的今天,开发者既渴望拥有强大如闭源模型的推理能力,又苦于其高不可攀的部署成本与数据隐私风险。OpenAI此次开源gpt-oss系列,直击这一核心痛点:它不仅提供了媲美自家闭源模型o3/o4-mini的性能,更通过创新的MoE架构和极致优化,让顶级模型首次能在消费级硬件上流畅运行,为本地化、私有化部署AI应用扫清了关键障碍。

gpt-oss是什么

gpt-oss 是 OpenAI 推出的开源推理模型系列,包含 gpt-oss-120b 和 gpt-oss-20b 两个版本。gpt-oss-120b 拥有1170亿参数,激活参数约51亿,能在单张 80GB GPU 上运行;gpt-oss-20b 拥有210亿参数,激活参数约36亿,能在 16GB 内存的消费级设备(如笔记本或手机)上运行。两者均基于 MoE 架构,支持 128k上下文长度,性能接近闭源的 o4-mini 和 o3-mini,在工具调用、少样本函数调用、链式思考推理及健康问答等方面表现出色。模型基于 Apache 2.0 许可证开源,支持免费商用,为开发者提供强大的本地推理能力。

阅读目录
  • gpt-oss是什么
  • gpt-oss的主要功能
  • gpt-oss的技术原理
  • gpt-oss的性能表现
  • gpt-oss的项目地址
  • gpt-oss的应用场景
      • 📝 站长洞察 (Editor’s Insight)

OpenAI近期发布了gpt-oss-safeguard,这是一款新型开放安全推理模型,其核心特点是允许用户自定义安全策略。该系列包含gpt-oss-safeguard-120b和gpt-oss-safeguard-20b两个版本,它们均基于gpt-oss模型进行微调,专门用于内容推理、分类与标记任务。两款模型均支持生成完整的“思维链”推理过程,并且无需重新训练即可快速适应新的规则,在应对新兴风险、复杂领域或数据样本有限的场景时展现出很强的灵活性。

gpt-oss

gpt-oss的主要功能

  • 工具调用:支持调用外部工具(如网页搜索、Python代码解释器)解决复杂问题,增强问题解决能力。
  • 链式思考:逐步分解复杂问题并逐步解决,适合多步骤推理任务。
  • 低资源需求:gpt-oss-20b 能在 16GB 内存设备上运行,适合消费级设备;gpt-oss-120b 能在 80GB GPU 上运行,适合高性能需求。
  • 快速推理:推理速度可达 40-50 tokens/s,适合需要快速响应的场景。
  • 开源权重:提供完整的模型权重和代码,支持本地微调和定制,满足特定任务需求。
  • 推理强度调节:支持低、中、高三种推理强度,能根据需求调整,平衡延迟与性能。
  • gpt-oss-safeguard:
    • 内容推理与分类:根据开发者提供的策略,对用户消息或 AI 生成内容进行推理、分类和标记。
    • 动态策略应用:在推理阶段直接解释并应用开发者自定义的安全策略,无需在训练阶段硬编码规则,能够快速适应新规则。
    • 完整“思维链”输出:展示模型得出结论的每一步推理过程,提升透明度和可用性,方便开发者追溯和理解模型的判断逻辑。

gpt-oss的技术原理

  • 模型架构:基于 Transformer 架构,用专家混合(MoE)技术减少处理输入所需的活跃参数数量,提高推理效率。基于交替的密集和局部带状稀疏注意力模式,类似于 GPT-3,进一步优化内存和计算效率。用分组多查询注意力机制,分组大小为 8,进一步提升推理效率。用 RoPE 进行位置编码,支持最长 128k 的上下文长度。
  • 预训练与后训练:预训练用高质量的纯文本数据集进行预训练,重点关注 STEM、编程和通用知识领域。后训练用与 o4-mini 类似的训练流程,包括监督式微调和高计算量的强化学习阶段。训练目标是让模型符合 OpenAI 模型规范,具备链式推理和工具调用能力。
  • 量化与优化:用 MXFP4 格式进行量化,模型在训练阶段就适应低精度环境,确保在减少模型体积的同时保持高性能。gpt-oss-20b量化后模型大小约为 12.8GB,能在 16GB 内存设备上运行。gpt-oss-120b量化后可在 80GB 内存中运行。与 NVIDIA、AMD 等硬件厂商合作,确保模型在各类系统上实现性能优化。
  • 安全机制:在预训练阶段过滤与化学、生物、放射性和核(CBRN)相关的有害数据。通过审慎对齐和指令优先级评估,训练模型拒绝不安全提示并抵御注入攻击。在特定领域(如生物学和网络安全)进行对抗性微调,评估并优化模型的安全性。

gpt-oss的性能表现

  • 基准测试表现:
    • 竞赛编程:在 Codeforces 竞赛编程测试中,gpt-oss-120b 获得 2622 分,gpt-oss-20b 获得 2516 分,表现优于部分开源模型,略逊于闭源的 o3 和 o4-mini。
    • 通用问题解决:在 MMLU 和 HLE 测试中,gpt-oss-120b 表现优于 OpenAI 的 o3-mini,并接近 o4-mini 的水平。
    • 工具调用:在 TauBench 智能体评估套件中,gpt-oss-120b 和 gpt-oss-20b 的表现均优于 OpenAI 的 o3-mini,达到或超过了 o4-mini 的水平。
    • 健康问答:在 HealthBench 测试中,gpt-oss-120b 的表现超越 o4-mini, gpt-oss-20b 达到与 o3-mini 相当的水平。

gpt-oss

gpt-oss的项目地址

gpt-oss:

  • 项目官网:https://openai.com/zh-Hans-CN/index/introducing-gpt-oss/
  • GitHub仓库:https://github.com/openai/gpt-oss
  • HuggingFace模型库:https://huggingface.co/collections/openai/gpt-oss-68911959590a1634ba11c7a4
  • 在线体验Demo:https://gpt-oss.com/

gpt-oss-safeguard:

  • 项目官网:https://openai.com/index/introducing-gpt-oss-safeguard/
  • HuggingFace模型库:https://huggingface.co/collections/openai/gpt-oss-safeguard
  • 技术论文:https://openai.com/index/gpt-oss-safeguard-technical-report/

gpt-oss的应用场景

  • 本地推理与隐私保护:在隐私敏感领域(如医疗、金融),gpt-oss 能在本地设备运行,确保数据安全,同时提供强大推理能力。
  • 编程辅助与代码生成:开发者用 gpt-oss 调用工具生成和验证代码片段,显著提升编程效率,减少调试时间。
  • 智能客服与客户支持:企业部署 gpt-oss 作为智能客服,快速响应客户咨询,提供准确答案,降低人力成本。
  • 教育与学习辅导:学生借助 gpt-oss 辅助学习,解答问题、提供写作建议,提升学习效率和理解能力。
  • 创意内容生成:作家、编剧、游戏开发者等用 gpt-oss 生成创意内容,激发灵感,提升创作效率。

📝 站长洞察 (Editor’s Insight)

OpenAI开源gpt-oss,绝非简单的技术分享,而是一次精妙的战略卡位。它标志着顶级AI能力从“云端专享”向“本地普惠”的关键转折。其MoE架构与量化技术的结合,巧妙解决了“性能-成本-隐私”的不可能三角,为边缘计算、企业私有化部署打开了全新想象空间。这不仅是技术范式革新,更是对开源生态的一次强力注入,将迫使整个行业重新评估模型部署策略。同时,gpt-oss-safeguard的发布,预示着OpenAI正试图构建从模型到安全治理的全栈开源标准,其背后的生态野心与商业布局,远比模型本身更值得关注。

❓ 常见问题解答(FAQ)
gpt-oss支持在本地电脑运行吗?

支持。gpt-oss-20b可在16GB内存的消费级设备上运行,适合笔记本等本地部署场景;gpt-oss-120b则需要单张80GB GPU。文章还提到其支持开源权重、可本地微调与定制。

gpt-oss和o4-mini相比表现如何?

文章给出的结论是:gpt-oss在工具调用、健康问答等任务上表现接近甚至部分超过o4-mini;在MMLU、HLE等测试中,120b版本也接近o4-mini水平,整体属于高竞争力开源推理模型。

gpt-oss为什么适合私有化部署?

因为它开源权重、支持免费商用,并通过MoE架构与MXFP4量化降低算力和显存需求,能在本地或企业内网环境运行,减少数据外传风险,适合对隐私和部署成本敏感的场景。

🔬 语宙深潜追问 · 进阶实操拆解
MoE加MXFP4为何适合本地部署?

MoE 让每次只激活部分专家,降低推理计算量;MXFP4 则进一步压缩权重体积和显存占用。两者结合后,才能把高能力模型塞进单卡或小集群,兼顾速度与成本。

本地跑20B和120B该怎么选?

如果目标是个人开发、轻量工具调用和隐私场景,20B 更现实;若要更强推理、复杂代码和高质量工具链协作,120B 更稳。选择标准应是延迟、显存预算和任务复杂度,而不是单看参数量。

🗳️ 读者观点微投票 · 您的实战立场是?
OpenAI开源推理模型,最该看重哪一点?
🕸️ 语宙向量知识图谱 · 语义强关联深度内链
⚡ 所属权威专题:OpenAI GPT 与 Sora 生态 →
  • OpenAI o3-mini – OpenAI 推出的全新推理模型
  • OpenAI o4-mini – OpenAI推出的小型推理模型
  • OpenAI o3 – OpenAI推出的新一代最强推理模型
  • 阿里通义Qwen3-30B-A3B-Thinking-2507开源:305亿参数MoE推理模型,性能超GPT-4o,消费级硬件可部署
🏛️ Prompt 语宙研究院 · Prompt 语宙研究院(paooo.com Research)专注于前沿多模态大模型架构拆解、AI Agent 工作流评测、AIGC 提示词工程(Prompt Engineering)与全球高增长 AI 生产力工具实测追踪,致力于为中文开发者与创作者提供一手、可复现的深度技术洞察。
📄 Markdown 纯净版
💡 这篇内容对您有启发吗?
📡 RSS 订阅✨ 提交 AI 工具 / 合作
🚀 Prompt 语宙 AI 创作者生态:探索 2,800+ 全球实用 AI 工具与高精度生图提示词咒语库
🧭 语宙 AI 导航 (ai.paooo.com)🎨 AI 生图 Prompt 库📚 核心专题导航⚡ AIGC 早报生成器
腾讯开源Youtu-LLM:19.6亿参数原生智能体模型,128K长上下文+STEM优化
Aurora – xAI为Grok AI助手推出的新图像生成模型
亚马逊重磅发布Nova 2系列AI模型:四款神器覆盖文本、语音、视频,百万级上下文处理引领多模态革命
GPT‑5.3 Instant – OpenAI 推出的轻量级对话模型
中国移动上线“新消息Claw”应用号,支持短信远程操控电脑端AI智能体
TAGGED:GPT-OSSMoE架构OpenAI开源模型推理模型
分享
Email 复制链接 打印
Share
Prompt 语宙研究院 头像
ByPrompt 语宙研究院
Follow:
Prompt 语宙研究院(paooo.com Research)专注于前沿多模态大模型架构拆解、AI Agent 工作流评测、AIGC 提示词工程(Prompt Engineering)与全球高增长 AI 生产力工具实测追踪,致力于为中文开发者与创作者提供一手、可复现的深度技术洞察。
上一篇 谷歌DeepMind发布Genie 3:可实时生成动态虚拟世界,AI世界模型迎来新突破 谷歌DeepMind发布Genie 3:可实时生成动态虚拟世界,AI世界模型迎来新突破
下一篇 快手AudioGen-Omni框架:多模态音频生成新突破,1.91秒生成8秒高清音频 快手AudioGen-Omni框架:多模态音频生成新突破,1.91秒生成8秒高清音频
Ad image
Ad image

最近更新

Google Search 实装 Gemini 4 Hydrogen 搜索界面展示 Query Fan-Out 展开结果
告别单一链接与零点击死局!Google Search全面实装Gemini 4 Hydrogen:深度拆解Query Fan-Out多路并发查询、动态视觉表格与GEO站长流量新变局
AI 工具
SemiAnalysis关于黄仁勋卸任英伟达CEO及全球半导体AI供应链影响的深度研报
1.5GW芯片暗流、5300亿表外兜底与SK海力士特惠松动!SemiAnalysis万字深度复盘英伟达“无黄时代”:独家拆解60人单王结构崩解、RASA法案死锁与全球开源算力大洗牌
AIGC 资讯
GitHub Copilot 在 VS Code 与 Coding Agent 中切换 Google Gemini 4 Hydrogen 界面
多步Agentic编码提速且按量阶梯计费!GitHub Copilot全面上线支持Google Gemini 4 Hydrogen:覆盖全系用户、企业策略管控与主流IDE模型编排全景深度拆解
最新趋势
Meta Reality Labs工程团队实现Cuttlefish在Apple Silicon Mac原生架构拓扑
终结双轨分裂且让AI智能体跑进真机沙箱!Meta重磅攻克Android高保真虚拟设备Cuttlefish原生运行Apple Silicon Mac:解密vhost-user解绑、HVF内存重构与端侧验证闭环全景架构
最新趋势

相关推荐

我国首个水风光一体化智慧运营大模型发布,流域来水预报从十几天延长至 60 天
AIGC 资讯

我国首个水风光一体化智慧运营大模型发布,流域来水预报从十几天延长至 60 天

Prompt 语宙研究院
3D与空间智能 AI办公效率 AI智能体 大模型微调 开源大模型
Google 用 AI 单月修复上千 Chrome 漏洞,超越过去两年总和
AIGC 资讯

Google 用 AI 单月修复上千 Chrome 漏洞,超越过去两年总和

Prompt 语宙研究院
AI办公效率 AI智能体 AI编程 Gemini 开源大模型
DeepSite – 基于 DeepSeek 开源的 AI 前端开发工具
AIGC 资讯

DeepSite – 基于 DeepSeek 开源的 AI 前端开发工具

Prompt 语宙研究院
AI绘画提示词 AI编程 DeepSeek HuggingFace 开源大模型
ShotAdapter – Adobe联合UIUC推出的多镜头视频生成框架
AIGC 资讯

ShotAdapter – Adobe联合UIUC推出的多镜头视频生成框架

Prompt 语宙研究院
Adobe AI视频生成 大模型微调
/ Prompt 语宙 /

探索生成式 AI 的无限创作潜能,一站式获取前沿 AIGC 资讯、高阶 Prompt 咒语与全球实用 AI 工具。

核心专栏

  • Remaker AI
  • BGRemaker 抠图Hot
  • AIGC 工具
  • Prompt 咒语生成器
  • 去水印工具

生态与服务

  • 语宙 AI 导航
  • 全部资讯
  • AI 生图咒语库
  • AIGC 早报生成器
  • 核心专题
  • 提交工具 / 合作

标签

开源大模型 AI智能体 AI办公效率 AI绘画提示词 OpenAI 大模型微调 Midjourney AI编程 stable diffusion AI视频生成 ChatGPT 3D与空间智能 HuggingFace AI音频与语音 RAG检索增强 Claude Flux AIGC Gemini 通义千问 Anthropic Llama Cursor DeepSeek Prompt AI Agent Kimi 智谱AI YouTube GPT Image 2
Prompt 语宙Prompt 语宙
Follow US
© 2023–2026 Prompt 语宙 (paooo.com). HalfPX. All Rights Reserved.