💡 站外导读:Microsoft Ignite见证了AI算力的又一次全栈对齐:NVIDIA与微软宣布将加速计算协同从Azure数据中心延伸至工业边缘与Windows PC。云端方面,Azure正式运行Vera Rubin NVL72虚拟机并拓展裸金属机密计算;模型侧,Microsoft Foundry接入无服务器微调与Nemotron 3.5开源家族,安永实测降本15倍;端侧则依托RTX Spark与Direct Stream打通混合推理闭环。

一、 云端基座再升级:Azure 跑通 Vera Rubin NVL72,机密计算下沉裸金属
在超大规模推理与长程智能体(Agentic Applications)对算力密度提出极限要求的背景下,微软与 NVIDIA 首先在云端基础设施层完成了代际交接。根据 NVIDIA 官方博客披露,基于下一代 NVIDIA Vera Rubin NVL72 机架级系统的 Azure 虚拟机目前已正式在 Azure 数据中心投入运行,专为高复杂度推理、多步骤智能体编排与超大规模模型训推一体打造。
比单纯的算力扩容更具工程含金量的,是双方在 隐私合规与能效控制 上的两项底层协同:
- 机架级机密计算(Confidential Computing):双方正将 NVIDIA Confidential Computing 与远程证明(Attestation)能力延伸至裸金属及整机架规模的 AI 基础设施。受严格监管行业的企业可以在释放敏感模型权重、专有数据集或解密密钥前,先对异构互联的整个计算环境完成密码学级可信验证,防止推理或微调态内存被窥探。
- 电力与能效精细调度(NVIDIA MaxLPS):针对数据中心普遍面临的供电瓶颈,Azure 引入 NVIDIA MaxLPS 协同优化每瓦特有效算力产出,在不突破机房供电上限的前提下榨干集群吞吐。
这一协同优化的工程底气源于最新的 MLPerf v6.1 基准测试背书:在 MLPerf Training v6.1 中,Azure 依托 GB200 NVL72 将 DeepSeek-V3 训练集群成功扩展至 10,240 颗 NVIDIA GPU,创下当轮提交的最大规模纪录;而在 MLPerf Inference v6.1 中,据 Signal65 统计,Azure 部署的 NVIDIA GB300 NVL72 系统在 DeepSeek-R1 交互式吞吐测试中领先同类云端提交方案超 10%。
| 全栈部署层级 | 核心硬件 / 软件栈 | 关键性能指标与实测案例 | 目标落地场景 |
|---|---|---|---|
| Azure 公有云算力层 | Vera Rubin NVL72 VM + 机密计算 + MaxLPS | GB200 NVL72 扩展至 10,240 卡跑 DeepSeek-V3;GB300 DeepSeek-R1 吞吐领先 >10% | 超大规模模型训推、高合规敏感数据推理 |
| Microsoft Foundry 模型层 | Programmed Training + Nemotron 3.5(Super / Lightning / Bolt) | 安永(EY)采购分类评估集准确率提升 55%、成本较闭源前沿模型降 15 倍 | 长程编码与研究智能体、低延迟工具调用、文档解析 |
| 本地与工业边缘层 | Azure Local + RTX PRO 6000 Blackwell + Jetson Thor / Orin + Cosmos | 支持本地部署 Nemotron 3.5、检索模型及物理 AI 世界模型 | 数据不出域企业推理、机器视觉、工业机器人自主作业 |
| 桌面与云端办公层 | Windows PC(RTX Spark)+ Windows 365 Cloud PC Direct Stream | Direct Stream 支持最高双路 4K@60fps 低延迟图形串流(2027 年初公测) | 本地大模型开发、高负载 3D 设计与远程图形工作站 |
二、 企业模型定制破局:Programmed Training 配 Nemotron 3.5 降本 15 倍
对于正在将 AI 智能体接入核心业务流的企业而言,直接调用昂贵的闭源前沿大模型往往面临账单失控与垂直领域准确率不足的双重困境。此次微软通过 Microsoft Foundry 打通了“无服务器后训练(Serverless Programmed Training)+ 托管推理(Foundry Managed Compute)+ NVIDIA 开源模型矩阵”的三位一体链路。
具体而言,开发者只需聚焦自身的业务评测数据集与反馈标准,底层复杂的强化学习或微调基础设施交由 Foundry 自动托管,并通过 Foundry Managed Compute 直接拉起定制权重的生产服务。四大会计师事务所之一的 安永(EY) 率先跑通了这一范式:EY 利用 Programmed Training 针对企业采购记录分类任务定制 NVIDIA Nemotron 开源模型,最终在评估数据集上实现 准确率提升 55%,同时将推理成本压低至闭源前沿模型的 十五分之一(15x 降本)。
为覆盖差异化负载,Foundry Managed Compute 本次全面扩容了 NVIDIA Nemotron 3.5 家族及配套组件:主打长程编码、深度研究与复杂业务流的 Nemotron 3.5 Super、面向极速响应与频繁工具调用的 Lightning、即将上线的低延迟高吞吐推理版本 Bolt,以及负责文档结构化抽取、跨模态检索和内容护栏的 Embed、Rerank、Parse、Content Safety 与即将推出的 Transcribe 语音识别模型。
三、 算力下沉至边缘与个人终端:Foundry Local、RTX Spark 与双路 4K 串流
除了云端与企业私有化部署,NVIDIA 与微软还将战线直接推向了产线边缘与开发人员桌面端,试图解决“数据在哪生成,算力就在哪推理”的延迟与合规难题。
在本地数据中心与工业现场,Foundry Local 正式引入 Nemotron 3.5 系列模型,使智能体无需上传数据即可在 Azure Local 环境下执行编码、推理及跨文本/表格/图表的本地检索任务;硬件合作伙伴还将向 Azure Local 供应搭载 NVIDIA RTX PRO 6000 Blackwell GPU 的本地服务器,同时将支持矩阵延伸至 NVIDIA Jetson Thor 与 Jetson Orin 边缘平台,搭配同样登陆 Foundry Local 的 NVIDIA Cosmos 物理 AI 模型,直接赋能机器视觉与自主机器人系统。
面向个人开发者与移动办公人群,两家公司在 Ignite 现场重点演示了搭载 NVIDIA RTX Spark 的 Windows PC 如何纯本地运行大语言模型;而针对依赖云端算力的 Windows 365 Cloud PC 用户,双方推出了 Direct Stream 能力——即便在网络条件恶劣的环境下,也能为 GPU 加速的云电脑提供最高 双路 4K 60fps 的超低延迟图形画面流(目前开启限量预览注册,计划 2027 年初开放公测)。
四、 科研智能体与微软自研反哺:BioNeMo 携手 Discovery,Dynamo 驱动 RL 推理
在垂直科研领域,双方将生命科学与材料化学的自动化研究推进了微软智能体科研平台 Microsoft Discovery。NVIDIA BioNeMo Agent Toolkit 与 ALCHEMI Toolkit 现已进入 Discovery 目录,科学家可以直接用自然语言调度计算生物学工作流,其首批集成的便是 NVIDIA 与华盛顿大学蛋白质设计研究所联合研发的 RFD4-Proteina 模型,能够自动生成候选蛋白质三维结构与氨基酸序列,交由湿实验进一步验证。
更为耐人寻味的是合作中的“双向技术反哺”:微软自身并非仅仅是 NVIDIA 硬件的转售云平台,Microsoft AI 在内部大模型后训练(Post-training)阶段,已深度部署 NVIDIA Dynamo 推理软件来支撑大规模强化学习(RL)Rollout 经验生成——通过跨庞大 GPU 集群协调高并发推理请求、动态模型权重更新与故障自愈,显著提升了后训练吞吐;与此同时,微软旗下的 Bing 搜索模型 也已全面采用 NVIDIA RTX PRO 6000 Blackwell 加速在线推理。
📝 站长洞察 (Editor’s Insight)
在近期外界高度关注英伟达高层动荡与算力客户分化的敏感窗口,这场 Ignite 全栈发布释放了一个极其清晰的工程信号:微软与英伟达的绑定早已超越了“单向采购 GPU 堆机柜”,而是深入到了芯片级机密计算、Dynamo 后训练推理调度以及 Windows 端侧生态的系统级共研。对企业架构师而言,最具实操价值的启示来自安永案例——用无服务器后训练微调 Nemotron 3.5 这类中等尺寸专精开源模型,换取“准确率涨 55%、成本降 15 倍”的工程收益,远比盲目为每条简单分类请求支付高昂的闭源前沿模型 API 税更具商业可持续性。
Azure 的 Vera Rubin NVL72 现在能做什么?
根据文中信息,Azure 已正式运行基于 NVIDIA Vera Rubin NVL72 的虚拟机,面向高复杂度推理、多步骤智能体编排和超大规模模型训推一体,同时配合机密计算与 MaxLPS 优化,提升合规性与每瓦算力效率。
Microsoft Foundry 的 Programmed Training 有什么价值?
它把无服务器后训练、托管推理和 NVIDIA 开源模型矩阵串成一体,企业只需提供业务数据集与评测标准,即可快速定制模型。文中 EY 实测显示,准确率提升55%,推理成本降至闭源前沿模型的15分之一。
RTX Spark 和 Direct Stream 适合哪些场景?
它们主要面向 Windows PC 端侧开发与办公场景,可支持本地大模型开发、高负载 3D 设计和远程图形工作站。文中提到 Direct Stream 最高支持双路 4K@60fps 低延迟图形串流,适合混合推理闭环。
企业落地该先选云端还是端侧?
高并发、统一治理、模型迭代快的场景优先云端;对隐私、低时延、离线可用要求高的场景优先端侧。更稳妥的做法是云端训练/编排,端侧做推理与缓存,按数据敏感度分层部署。
Nemotron降本15倍怎么复现?
关键不在“直接替换大模型”,而是先做任务拆分、提示词压缩和小模型路由,再用企业私有数据做轻量微调与评测闭环。先用高频、低风险任务验证成本收益,再逐步扩大到复杂流程。
