💡 站外导读:在 KubeCon 2026 旗舰峰会上,NVIDIA 宣布了一项重塑云原生 AI 基础设施格局的重大开源举措:正式将自主智能体安全运行时 OpenShell 捐赠给 CNCF(云原生计算基金会)沙箱项目,并携手 Google 深度参与长程智能体编排底座 Agent Substrate 的共建。与此同时,NVIDIA 发布了面向 AI 工厂的 DSX 平台三大核心组件,其中创新的 NVIDIA Snapshot 机制成功攻克大模型推理容器冷启动瓶颈,实测将 GLM-5.3 启动延迟由 8 分钟大幅压降至 31 秒。本文深度拆解 NVIDIA 如何通过确定性行为控制、会话级算力挂起释放以及端到端 K8s 基础设施配方,为生产级大规模 Agentic AI 筑牢安全高效的工程基座。

一、开源安全治理破局:NVIDIA 为何将 OpenShell 捐入 CNCF 沙箱?
伴随着大模型应用由被动式一问一答(Chatbot)向具备自主规划与工具调用能力的 Agentic AI 演进,现代计算集群面临着全新的系统级安全挑战。当 AI 智能体被赋予调用内网终端、执行 Python 代码、发起 RPC 调用与读写存储系统的能力时,如何在不可信任的大模型决策与企业内网资源之间建立一道物理级的确定性防护围栏,成为摆在全体企业架构师面前的核心难题。
在 Linux 基金会旗下旗舰盛会 KubeCon + CloudNativeCon 上,NVIDIA 宣布将旗下核心项目 NVIDIA OpenShell 正式捐赠给 CNCF 作为沙箱(Sandbox)项目。Linux 基金会执行董事 Jim Zemlin 指出:“云原生技术社区面临全新的基础设施挑战:为自主智能体提供一个既安全隔离又高度互通的执行环境。NVIDIA 捐赠 OpenShell 为整个行业树立了统一的参考底座,使全球开发者能够共同定义下一代云原生 Agent 的安全演进规范。”
从技术架构上看,OpenShell 提供了一套确定性策略控制引擎(Deterministic Policy Engine)。它不依赖大模型自身的“道德自律”,而是在操作系统与运行时层面拦截智能体的每一次工具请求、推理调用与系统指令。企业可以自建受控的凭证密钥保管库(Secret Vault)、网络白名单和审计遥测管道,使 OpenShell 在零信任的前提下安全融入存量生产环境。
二、携手 Google 共建 Agent Substrate:破解 K8s 长程智能体“算力空转”顽疾
治理与安全仅仅是大规模运行 AI 智能体的第一道关卡,另一个更为昂贵的工程瓶颈在于算力生命周期管理。传统的微服务通常是短生命周期的无状态调用,而自主智能体往往需要长达数小时甚至数天的长程生命周期,在此期间,智能体会经历长时间的人机等待、异步任务挂起与多轮推理交互。如果为每个会话始终维持独占的 GPU 实例,集群资源利用率将暴跌至个位数,带来灾难性的云账单。
为此,NVIDIA 宣布深度参与并贡献由 Google 主导、同样入选 CNCF 沙箱项目的 Agent Substrate 开源框架,并实现了与 NVIDIA Dynamo 模型推理系统及 KAI 集群调度器的无缝打通:
- 环境状态持久化与按需唤醒(Stateful Suspend & Resume):Agent Substrate 能够在任务间隔期间冻结并完整保留智能体的上下文环境、文件句柄与执行状态,同时立即释放其占用的底层 GPU/CPU 计算资源。
- 共享智能体资源池(Shared Agent Pooling):当外部事件或用户响应到达时,系统秒级唤醒该环境并将其挂载至共享算力节点,真正做到了“会话不断、算力不闲置”。
- OpenShell 与 Agent Substrate 深度联动:NVIDIA 与 Google 展开核心工程合作,将 OpenShell 的安全防护策略无缝嵌入 Agent Substrate 的生命周期切片中,实现跨多云与混合云集群的端到端统一治理。

三、DSX AI Factory 三大核心组件:消弭秒级冷启动与环境配置鸿沟
为了让 AI 工厂(AI Factories)在保留自主基础设施控制权的同时,获得媲美公有云的托管式体验,NVIDIA 在本次大会上正式发布了 NVIDIA DSX AI Factory Platform 的三款重磅开源基建组件:
1. NVIDIA Kubernetes Engine (NVKE) 与 Kubernetes Recipes (NVKR)
面向生产级 GPU 集群,NVKE 与 NVKR(现已开启公开预览)提供了标准化的开源积木。NVKE 实现了底层 GPU 基础设施的自动化集群生命周期管理,提供经过加密签名与版本锁定的可信操作系统镜像;而 NVKR 则内置了大量经千卡集群验证的编排拓扑最佳实践配方,目前已获得 Mirantis、Netris、OpenNebula、Rafay、Spectro Cloud、vCluster、Firmus 及 SK Telecom 等全球主流云厂商与电信巨头的原生集成支持。
2. 颠覆性冷启动加速:NVIDIA Snapshot 机制全解
在大规模动态推理场景中,从零拉起(Scale-from-Zero)或故障转移往往面临漫长的镜像拉取、大模型权重加载(Loading)与 CUDA 运行时预热(Warmup)延迟,动辄数分钟的等待严重违背了实时智能体的交互 SLO。NVIDIA 研发的模块化开源组件 NVIDIA Snapshot 彻底颠覆了这一现状:
Snapshot 能够在大模型与运行时完全就绪后,直接在内存与显存层面对工作负载执行确定性检查点(Checkpoint)快照;当需要扩容新副本或进行容器恢复时,系统直接从快照镜像秒级还原内存状态,彻底跳过重复的模型重新读取与预热过程。
四、权威实测基准对照表:生产级 Snapshot 与传统冷启耗时量化对比
为验证 NVIDIA Snapshot 在前沿大模型与高密度分布式环境下的实际收益,NVIDIA 联合顶尖 AI 基础设施云厂商 Crusoe 与高性能 Token 工厂平台 Saturn Cloud 进行了基于最新 NVIDIA HGX B300 系统的严格实测:
| 测试平台 / 合作伙伴 | 评测模型 / 运行时栈 | 底层硬件基座 | 传统冷启/预热耗时 | NVIDIA Snapshot 耗时 | 工程启动提速比率 |
|---|---|---|---|---|---|
| Crusoe Cloud | GLM-5.3 前沿大语言模型 | NVIDIA HGX B300 | 约 8 分钟 (480s) | 仅 31 秒 | ⚡ 提速约 15.5 倍 (降幅 93.5%) |
| Saturn Cloud | vLLM 推理引擎 (Scale-from-Zero) | NVIDIA HGX B300 | 2 分钟 ~ 8.5 分钟 | 6 秒 ~ 34 秒 | ⚡ 提速高达 15~20 倍 |
| 跨云生态矩阵 (Mirantis/Rafay等) | NVKE + NVKR 托管 K8s 栈 | 混合异构 GPU 数据中心 | 人工脚本排错 / 易漂移 | 声明式自动生命周期治理 | SRE 运维开销降低 80% |
五、云原生 Agentic 基础设施演进:从单机玩具走向工业级集群治理
回顾云计算的发展历史,Docker 解决了环境打包一致性,Kubernetes 解决了无状态容器编排与调度。而在以大模型和智能体为核心的 AI 2.0 时代,传统的计算编排原语正面临剧烈重构:模型权重不再是普通的微服务二进制代码,智能体的思考链(CoT)与工具调用环境亦非瞬时销毁的瞬态进程。
NVIDIA 将 OpenShell 捐给 CNCF,并与 Google 联手共建 Agent Substrate,标志着全球顶级硬件与云原生巨头正式在“智能体操作系统”层面达成共识。开源社区正在形成一套自下而上的全新云原生 AI 标准体系:从底层的 NVKE GPU 编排,到中间层的 Snapshot 秒级快照恢复,再到顶层的 OpenShell 确定性策略防护与 Agent Substrate 挂起唤醒。对于企业技术决策者而言,与其耗费人力在脆弱的自研容器胶水层上修修补补,不如尽早布局并全面拥抱这一套已走向标准化的工业级开源底座。
📝 站长洞察 (Editor’s Insight)
从单机跑通 Demo 到千节点集群稳定支撑自主智能体(Autonomous Agents),AI 工业界正在经历与十年前微服务如出一辙的工程阵痛。智能体高频的工具调用、长程上下文记忆以及不可预测的突发流量,使传统无状态 K8s 调度疲于奔命。NVIDIA 将 OpenShell 捐予 CNCF 并与 Google Agent Substrate 结盟,标志着顶级硬件与云原生巨头正式在“智能体操作系统”层面确立标准。特别是 Snapshot 技术将多模态大模型的冷启时间从“分钟级等待”压缩到“十秒级秒起”,不仅打通了 Scale-from-Zero 的经济可行性,更为高密度、按需唤醒的 AI Agent 集群铺平了道路。企业落地 Agent Harness 必须尽早放弃自研脆弱的容器胶水层,全面拥抱这一波云原生标准化红利。
OpenShell主要解决什么安全问题?
OpenShell面向Agentic AI的运行时安全治理,核心是用确定性策略引擎在操作系统与运行时层面拦截工具请求、推理调用和系统指令,帮助企业为智能体访问内网终端、代码执行和存储系统建立零信任防护。
Agent Substrate为什么适合长程智能体?
因为它支持状态持久化与按需唤醒,可在任务间隔冻结并保留上下文、文件句柄和执行状态,同时释放GPU/CPU资源;外部事件到达后可秒级恢复,避免长时间占用独占算力。
NVIDIA Snapshot能把冷启动优化到什么程度?
文中给出的实测结果是:GLM-5.3启动延迟从8分钟压缩到31秒。它的价值在于显著缩短大模型推理容器冷启动时间,提升AI工厂场景下的弹性恢复与上线效率。
OpenShell适合哪些生产场景先落地?
优先用于需要长程执行、可恢复状态和强隔离的智能体任务,如代码生成、批处理代理、运维自动化。若只是短对话或低风险调用,直接用轻量编排更省成本。
秒级恢复要怎么设计才真可靠?
关键是把状态、依赖和执行上下文做快照分层管理,并验证恢复后一致性。生产上还要配合幂等任务、重试策略、审计日志和故障注入演练,避免“能恢复但不可复现”。
