💡 站外导读:当外界注意力普遍被英伟达高层人事动荡所吸引时,绿厂在底层算力架构上的迭代引擎却展现出更加恐怖的统治力。在 SC26 超算大会上,NVIDIA 正式解禁了代号“Vera Rubin”的下一代算力平台首批 MLPerf 官方实测战报。从大语言模型预训练、后训练强化学习到业界首次针对智能体场景设立的 MLPerf Endpoints 真实端点评测,Vera Rubin NVL72 不仅实现了单卡训练吞吐同比 GB300 最高翻倍的跃升,更在千卡集群跑 DeepSeek-V3 时创下了 97% 的超线性扩展神话;尤为震撼的是其在 Agentic 工作流中交出的“每瓦吞吐量暴涨 10 倍”成绩单,标志着算力军备竞赛已从单纯堆砌 FLOPs,全面跃迁至以电力消耗为物理瓶颈的智能体能效比时代。

一、首战包揽 MLPerf 全线榜首:Vera Rubin NVL72 的单卡翻倍与全栈架构跃迁
作为全球人工智能与高性能计算领域最具权威性、公信力最高的第三方硬件基准测试,MLPerf 每一期的数据发布都被视作数据中心算力升级的“金标准”。在最新揭晓的 MLPerf Training v6.1 评测榜单中,NVIDIA 携刚刚于 SC26 超算大会上亮相的下一代旗舰计算平台——Vera Rubin 完成了震撼首秀。
官方公布的测试数据表明,NVIDIA 是本轮评测中唯一一家在所有基准任务上均提交了完整成绩的厂商,覆盖了大语言模型(LLM)、图像生成扩散模型、推荐系统(Recommender Systems)以及当前最炙手可热的强化学习后训练(RL Post-Training)。在最受瞩目的单节点基准测试中,基于整机液冷机柜架构的 Vera Rubin NVL72 系统展现出了最高达到上一代旗舰 GB300 NVL72 系统 2 倍(2x)的单 GPU 训练性能。
这一跨代提升之所以引人注目,是因为 GB300 本身已经是基于 Blackwell Ultra 高度调优的成熟平台。Vera Rubin 之所以能在同等封装体量下再次实现算力翻倍,得益于其微架构计算核心、新一代 HBM 高带宽显存吞吐以及深度适配 CUDA 软件栈算子融合的协同进化,向全球云服务商有力证明了英伟达“一年一迭代”技术路线图的坚挺兑现力。

二、从 256 卡到万卡对决:DeepSeek-V3 千卡扩展效率高达 97% 与 Azure 万卡实测
在当前的前沿大模型工业化训练中,单卡算力只是基本盘,分布式网络互联与线性扩展效率(Scaling Efficiency)才是决定集群生死存亡的核心瓶颈。堆砌再多的 GPU,如果通信开销吞噬了计算流水线,整体产出也会迅速衰竭。
在本次 MLPerf 评测中,针对目前全球技术难度极高、包含极重跨节点通信的混合专家(MoE)开源模型 DeepSeek-V3,NVIDIA 团队公开展示了 Vera Rubin NVL72 在真实大规模集群下的扩展能力:
- 97% 惊人线性扩展效率: 当集群规模由 256 颗 GPU 扩容至 1,024 颗 GPU(整整 4 倍硬件规模)时,Vera Rubin NVL72 将 DeepSeek-V3 的基准训练时间直接从 16 分钟剧烈压缩至仅 4 分钟,计算扩展效率高达约 97%;
- 全域网络拓扑协同: 这一接近理论上限的线性加速,归功于机柜内部 NVLink 铜缆直连 Scale-Up 架构(使 72 颗 GPU 表现如同一颗超大单一 GPU),搭配机柜外 Quantum-X800 InfiniBand 与 Spectrum-X 以太网构成的 Scale-Out 高速交换矩阵,将千卡跨节点通信等待时间压缩至极限;
- 10,240 卡超大规模对决: 除了 Rubin 的千卡亮剑,NVIDIA 官方还提交了由 10,240 颗 GPU 构成的 GB300 超大规模集群测试,代表了本轮 MLPerf 的最大物理算力规模;而微软云(Microsoft Azure)也同步提交了基于 10,240 颗 NVIDIA GB200 GPU 构建的万卡集群数据,印证了英伟达全栈基础设施在全球顶级超大规模云数据中心(Hyperscalers)中的落地渗透深度。

三、Agentic AI 时代的能效革命:MLPerf Endpoints 首测与 Kimi K3 每瓦吞吐狂飙 10 倍
如果说 Training v6.1 代表的是预训练时代的延续,那么本次 MLPerf 首次引入的 MLPerf Endpoints(智能体推理端点测试),则宣告了算力度量体系的代际重构。
过去,推理评测往往停留在单次问答(Single Turn Q&A)或固定长度的提示词吞吐。但在真实的生产级智能体场景中(如自动编程 Agent、长程金融调研智能体或自主旅行规划助手),AI 需要经历多轮推理、调用外部工具、自检代码错误、回退重新规划等多步逻辑链。完成一个实际任务往往需要连续生成数万个 Token。然而,受制于全球数据中心严苛的电力供应红线(Power Budget),现代云数据中心最大的制约因素早已不是采购预算,而是机房能够接入的可用兆瓦数(Megawatts)。
在 MLPerf Endpoints 的真实企业与编码工作流评测中,基准测试直接以业界知名面向智能体任务构建的大型开源模型 Kimi K3 为载体。评测结果令人瞩目:在保持与上一代系统同等毫秒级响应速度的前提下,Vera Rubin NVL72 系统交付的“每瓦吞吐量”(Throughput per Watt,即系统每消耗 1 瓦特电能所能产出的有效智能体工作量)相比 GB300 NVL72 狂增了超过 10 倍(>10x)! 这意味着在给定的数据中心电力容量限制下,云厂商部署 Vera Rubin 可以并发承载 10 倍规模的自主 Agent 任务,彻底打破了推理部署的电力天花板。
四、NVIDIA 算力架构跨代规格与 MLPerf 实测指标对比全景矩阵
为了直观展现从 GB200、GB300 到 Vera Rubin 的技术代际演进,我们将核心参数与评测维度汇总如下:
| 核心评估维度 | GB200 NVL72 (Blackwell) | GB300 NVL72 (Blackwell Ultra) | Vera Rubin NVL72 (下一代旗舰) | 架构突破与 SRE 选型建议 |
|---|---|---|---|---|
| 单 GPU 训练吞吐 | 基准水平 (1.0x 基线) | 约 1.25x~1.35x 基线 | 最高达 GB300 的 2.0x 算力飞跃 | 前沿大模型预训练耗时直接减半 |
| DeepSeek-V3 扩展性 | 88%~90% (千卡集群) | 约 92%~94% (千卡集群) | 256->1024 卡扩展效率高达 97% | 极强 MoE 跨节点全互联通信优化 |
| Agentic 每瓦吞吐量 | 标准水平 (易受功率上限卡死) | 优化能效 (提升约 20%) | 超过 GB300 达 10 倍以上 (>10x) | 打破智算中心电力配额瓶颈的终极利器 |
| 代表性评测规模 | Azure 提交 10,240 颗 GPU 实测 | NVIDIA 提交 10,240 颗 GPU 实测 | 首发亮相 1,024 颗 NVL72 集群 | 验证了从万卡成熟基建到千卡先锋架构的平滑演进 |
| 生态与厂商参与度 | 全美主流 Hyperscalers 标配 | 华尔街与顶级 AI 实验室争相采购 | ASUS、Cisco、Dell、Google等20家巨头同步提交 | CUDA 与 NVLink 联盟生态壁垒进一步固化 |
📝 站长洞察 (Editor’s Insight)
Vera Rubin 平台在 MLPerf 上的统治级亮相,向全世界给出了一个极其清晰的产业信号:大模型竞争的“终极物理防线”已经彻底从理论 FLOPs 算力,转移到了以“每瓦能效比(Throughput per Watt)”为核心的能量转化战场。在 2024 至 2025 年,业界对于英伟达的担忧集中在“芯片发热与电网负荷是否会阻碍 AI 扩张”;而 Vera Rubin 给出的工程答案是,通过微架构精益重构与端到端智能体端点优化,将每一度电能转化为 10 倍的有用智能体工作流。特别是在 Kimi K3 等长程 Agentic 任务中展现的超高能效比,彻底改变了商业推理的 ROI 测算模型。即便英伟达目前处于管理层交接与地缘合规风暴的漩涡中心,但只要其硬件全栈架构依然能以每年翻倍的速度拉开与竞争对手的物理差距,其在算力金字塔顶端的统治地位便依然固若金汤。
Vera Rubin在MLPerf上到底提升了什么?
文章显示,Vera Rubin NVL72在MLPerf Training v6.1中覆盖LLM、扩散模型、推荐系统和RL后训练等任务,单GPU训练性能相较GB300最高翻倍,并在端到端基准中保持领先,体现的是整机平台级升级,而不只是单点算力提升。
DeepSeek-V3千卡扩展效率97%意味着什么?
这表示当GPU规模从256颗扩到1024颗时,训练时间几乎按理论线性缩短,实际从16分钟降到4分钟,扩展效率约97%。它说明Vera Rubin在大规模分布式通信和网络拓扑协同上表现很强,能把更多算力转化为有效训练吞吐。
MLPerf Endpoints为什么对智能体更重要?
因为它不再只看单轮问答,而是更贴近真实Agent工作流的端点推理表现。文章提到Vera Rubin在该测试中实现每瓦吞吐暴增10倍,说明未来智能体竞争不只拼算力峰值,更拼电力约束下的持续效率。
📊 Vera Rubin MLPerf训练与扩展性能摘要(AI 视觉结构化提取)
核心发现:图中显示 Vera Rubin 在多项 MLPerf 训练基准上相较优化后的 GB300 NVL72 最高可实现 2.0x 加速,同时在 1,024 GPU 规模下扩展效率达到 97%。
| Model Type | Benchmark | Vera Rubin NVL72 vs. Optimized GB300 NVL72 |
|---|---|---|
| Mixture-of-Experts LLM | DeepSeek-V3 671B | 2.0x |
| Mixture-of-Experts LLM | Qwen3.5 397B GRPO (RL) | 1.4x |
| Mixture-of-Experts LLM | gpt-oss 20B | 1.6x |
| Dense LLM | Llama 2 70B LoRA | 1.5x |
| Dense LLM | Llama 3.1 8B | 1.6x |
| Diffusion | FLUX. 1 | 1.5x |
| Recommender | DLRMv4 | 1.4x |
千卡扩展效率97%怎么落地?
关键在通信、并行策略和算子融合三件事:优先减少跨卡同步,采用更细粒度的张量/流水并行组合,并用高效内核压缩通信开销。真正的瓶颈往往不是算力,而是网络与调度。
智能体每瓦吞吐暴增10倍意味着什么?
这通常意味着端到端推理链路被重构了:更高效的KV缓存、更低开销的调度、更适合长上下文与多步工具调用的执行路径。落地时要同时看延迟、并发和单位成本,不能只看峰值吞吐。
