# ZCube架构深度解析：智谱AI联合清华发布，如何降低33%网络成本并提升40%推理性能？

- Link: https://paooo.com/aigc-news/10849/
- Published: 2026-05-21T13:27:47+08:00
- Author: Prompt 语宙研究院

⚡ [Prompt](https://paooo.com/ai-image-prompts/) 语宙 AI 导读 · 30 秒核心看点

 * ZCube用扁平化二部图替代传统Spine层，专治PD分离带来的动态不对称流量拥塞。
 * 在GLM-5.1 coding生产实测中，网络硬件成本降33%，推理吞吐提升15%，尾延迟显著下降。
 * 无需改GPU硬件或软件栈，仅通过网络架构重构即可支撑万卡级推理集群扩展。

> **💡 站外导读：**随着大模型推理规模进入万卡时代，PD分离部署成为主流范式，但其产生
> 的动态、不对称KV Cache传输流量，正给传统三层网络架构带来结构性拥塞、高昂硬件成本
> 和尾延迟飙升的严峻挑战。如何用更低的成本构建无阻塞、高弹性的AI算力底座，已成为
> 行业核心痛点。智谱AI与清华大学联合发布的ZCube架构，正是针对这一难题提出的下一代
> 解决方案。

## ZCube是什么

ZCube是智谱AI联合驭驯网络与清华大学推出的下一代[大模型](https://paooo.com/ai-study/)
推理网络架构，专为解决PD分离部署中的结构性网络拥塞设计。架构取消传统Spine层交换机，
采用全网扁平化拓扑与单/多轨混合接入机制，实现全局流量解耦与离散化路由。在GLM-5.1
coding生产环境实测中，ZCube在保持GPU和软件栈不变的前提下，将交换机与光模块资本支出
降低33%，GPU平均推理吞吐提升15%，TTFT P99降低40.6%。

阅读目录

 * [ZCube是什么](https://paooo.com/aigc-news/10849/#zcube%e6%98%af%e4%bb%80%e4%b9%88)
 * [ZCube的主要功能](https://paooo.com/aigc-news/10849/#zcube%e7%9a%84%e4%b8%bb%e8%a6%81%e5%8a%9f%e8%83%bd)
 * [ZCube的技术原理](https://paooo.com/aigc-news/10849/#zcube%e7%9a%84%e6%8a%80%e6%9c%af%e5%8e%9f%e7%90%86)
 * [如何使用ZCube](https://paooo.com/aigc-news/10849/#%e5%a6%82%e4%bd%95%e4%bd%bf%e7%94%a8zcube)
 * [ZCube的核心优势](https://paooo.com/aigc-news/10849/#zcube%e7%9a%84%e6%a0%b8%e5%bf%83%e4%bc%98%e5%8a%bf)
 * [ZCube的项目地址](https://paooo.com/aigc-news/10849/#zcube%e7%9a%84%e9%a1%b9%e7%9b%ae%e5%9c%b0%e5%9d%80)
 * [ZCube的同类竞品对比](https://paooo.com/aigc-news/10849/#zcube%e7%9a%84%e5%90%8c%e7%b1%bb%e7%ab%9e%e5%93%81%e5%af%b9%e6%af%94)
 * [ZCube的应用场景](https://paooo.com/aigc-news/10849/#zcube%e7%9a%84%e5%ba%94%e7%94%a8%e5%9c%ba%e6%99%af)
       * [📝 站长洞察 (Editor’s Insight)](https://paooo.com/aigc-news/10849/#%f0%9f%93%9d-%e7%ab%99%e9%95%bf%e6%b4%9e%e5%af%9f-editor8217s-insight)

![ZCube](https://paooo.com/wp-content/uploads/2026/05/ZCube-website-1.avif)

## ZCube的主要功能

 * **取消Spine层的扁平化组网**：打破传统Clos架构层次化堆叠思路，保留Leaf交换机层
   并通过完全二部图互联，将网络直径从3跳压缩至2跳。
 * **单/多轨混合接入机制**：一组Leaf交换机用单轨方式连接连续标号的GPU，另一组用多
   轨方式连接相同标号的GPU，使PD分离产生的动态不对称流量天然离散化。
 * **全局负载均衡路由**：ZCube路由策略确保任意GPU对之间仅存在一条唯一最优路径，避免
   多路径选路引发的流量冲突，在训练和推理场景均实现全网理想负载均衡。
 * **结构性拥塞消除**：通过架构层创新将KV Cache跨节点传输流量进行全局解耦与离散化，
   从根本上消除局部热点链路和PFC反压。

## ZCube的技术原理

 * **完全二部图拓扑**：将Leaf交换机按奇偶分为两组，组内交换机互不连接，组间每台交换
   机与另一组所有交换机全连接，形成扁平化网络。
 * **双端口差异化接入**：每张GPU网卡的两个端口分别用单轨（连接奇数交换机）和多轨（
   连接偶数交换机）方式接入，用数学映射公式实现确定性路由。
 * **确定性最短路径路由**：基于GPU编号与交换机编号的模运算和向上取整映射，确保任意
   两GPU之间仅有一条经过两台Leaf交换机的最优路径。
 * **流量模式适配**：针对PD分离产生的源-目的不对称、动态变化的KV Cache传输特征，
   通过拓扑结构本身实现流量天然分散，无需依赖自适应路由或报文喷洒等传输层机制。

## 如何使用ZCube

 * **架构规划**：将Leaf交换机按奇偶序号分为两组，设计完全二部图互联拓扑，取消传统
   Spine层。
 * **端口接入配置**：为每张GPU网卡的双端口分别配置单轨与多轨混合接入策略，连接至
   对应奇偶交换机。
 * **自动化部署**：用ZCube控制器、机房布局设计工具和连线正确性检测程序，完成配置
   自动生成与批量下发。
 * **生产验证**：在推理服务上线前进行带宽、时延和PFC事件监控，确认无结构性拥塞热点
   后正式切流。

## ZCube的核心优势

 * **成本显著降低**：相同规模下比Clos/ROFT减少约33%的交换机和光模块投入，万卡智算
   集群可节省网络硬件投资约2.1亿至6.4亿元。
 * **推理性能提升**：在GLM-5.1 coding生产实测中，GPU平均推理吞吐提升15%以上，TTFT
   的P99分位数下降40.6%。
 * **超强扩展能力**：基于现有51.2T交换机可构建连接16384块400Gbps网卡的扁平网络，
   通过多平面划分可支持数万至数十万GPU互联。
 * **零侵入式升级**：无需改动GPU硬件、软件栈或应用逻辑，仅通过网络架构层调优即可
   释放现有硬件潜能。

## ZCube的项目地址

 * **项目官网**：https://z.ai/blog/zcube

## ZCube的同类竞品对比

  |  对比维度 |  ZCube |  ROFT（Rail-Optimized Fat-Tree） |  
   |  **网络架构** |  扁平化二部图，取消Spine层 |  两层Fat-Tree，保留Spine层 |  
 |  **网络直径** |  2跳 |  3跳 |  
 |  **负载均衡** |  全局理想均衡，单路径无冲突 |  静态Rail映射，推理场景易失衡 |  
 |  **拥塞控制** |  从架构层消除结构性拥塞 |  易产生局部热点和PFC反压 |  
 |  **硬件成本** |  降低33%交换机和光模块 |  标准Clos成本 |  
 |  **推理吞吐** |  提升15% |  基准 |  
 |  **TTFT P99** |  降低40.6% |  基准 |  
 |  **扩展规模** |  数万至数十万GPU |  受Spine层容量限制 |

## ZCube的应用场景

 * **超大规模LLM推理集群**：适用PD分离部署的千卡至万卡级推理集群，解决KV Cache跨
   节点传输导致的网络瓶颈。
 * **长上下文推理服务**：架构能有效缓解长序列场景下网络带宽对首Token时延和整体吞吐
   的制约。
 * **高密度智算中心**：为训练与推理混合负载提供高均衡、低时延、高带宽利用率的网络
   底座。
 * **MaaS云服务平台**：架构能降低推理服务综合成本，提升多租户高并发场景下的尾时延
   稳定性。

#### 📝 站长洞察 (Editor’s Insight)

ZCube的发布标志着AI基础设施的竞争从单纯堆叠GPU，正式进入了“网络架构定义算力效率”
的深水区。其核心洞察在于：传统为通用计算设计的层次化Clos网络，无法匹配大模型推理
特有的“动态、不对称、突发”流量模型。ZCube通过“全网扁平化”和“确定性最短路径”这两个
看似回归原始的设计哲学，却用精巧的二部图数学模型实现了对复杂流量模式的“降维打击”，
这本身就是一种高维度的系统创新。这预示着，未来AI竞赛的护城河将不仅是算法和模型，
更是底层硬件、网络、软件栈的垂直整合与协同设计能力。ZCube这类专域优化架构的涌现，
将极大加速万卡级推理集群的普及，并为通向百万卡AGI基础设施铺平道路。

🧭 文中关联 [AI 工具](https://ai.paooo.com/)官网与参数卡（语宙 AI 导航）

**CODING ↗**

CODING 是一个面向软件开发团队的一站式数字化研发管理平台。其核心功能深度整合了软件
开发生命周期的各个环节，

**Z.ai ↗**

Z.ai 是智谱AI（Zhipu AI）面向全球用户推出的官方AI模型体验与开发者平台。其核心功能
围绕其自研的G

❓ 常见问题解答（FAQ）

ZCube架构解决了什么问题？

ZCube主要解决大模型推理中PD分离部署带来的KV Cache跨节点传输拥塞问题。它通过取消Spine
层、采用扁平化二部图和确定性路由，让动态不对称流量被天然离散化，从而降低热点链路、
PFC反压和尾延迟。

ZCube相比传统Clos网络有什么优势？

相比传统Clos，ZCube将网络直径从3跳压缩到2跳，并通过单/多轨混合接入实现全局负载均衡。
官方实测显示，在保持GPU和软件栈不变的前提下，交换机与光模块成本降低33%，推理吞吐
提升15%。

ZCube适合哪些AI场景？

ZCube适合千卡到万卡级的超大规模LLM推理集群、长上下文推理服务、高密度智算中心以及
MaaS云平台。它尤其适用于PD分离部署场景，可缓解KV Cache传输导致的带宽瓶颈和尾时延
波动。

🔬 语宙深潜追问 · 进阶实操拆解

ZCube 适合什么样的推理集群？

最适合 KV Cache 流量大、请求波动明显、PD 分离成熟的集群。若业务以长上下文、多轮对话
和高并发推理为主，网络瓶颈会更突出，收益通常更明显。

落地时最容易踩哪些坑？

常见坑是只看平均吞吐不看尾延迟、忽视交换机与光模块拓扑、以及缓存迁移策略不稳。上线
前要做压测、故障注入和 P99 监控，避免局部优化拖垮整体稳定性。

🗳️ 读者观点微投票 · 您的实战立场是？

PD 分离推理网络值得现在上吗？

🕸️ 语宙向量知识图谱 · 语义强关联深度内链

[🏮 所属权威专题：国产大模型选型与资费对比 →](https://paooo.com/topics/domestic-llm-ecosystem/)

 * [HPC-Ops – 腾讯混元开源的工业级高性能大模型推理算子库](https://paooo.com/aigc-news/24372/)
 * [优化 Character.AI 的 AI 推理 [译]](https://paooo.com/ai-study/8737/)
 * [京东开源xLLM：国产芯片AI推理框架，服务-引擎分离架构实现端云一体高效部署](https://paooo.com/aigc-news/13350/)
 * [APB – 清华联合腾讯等机构推出的分布式长上下文推理框架](https://paooo.com/aigc-news/21121/)

[🏛️ Prompt 语宙研究院](https://paooo.com/author/paooo-research/) · Prompt 语宙研究院（
paooo.com Research）专注于前沿多模态大模型架构拆解、AI Agent 工作流评测、AIGC 提示
词工程（Prompt Engineering）与全球高增长 AI 生产力工具实测追踪，致力于为中文开发
者与创作者提供一手、可复现的深度技术洞察。

[📄 Markdown 纯净版](https://paooo.com/aigc-news/10849/?format=md)

💡 这篇内容对您有启发吗？

[📡 RSS 订阅](https://paooo.com/feed/)[✨ 提交 AI 工具 / 合作](https://paooo.com/submit-tool/)

**🚀 Prompt 语宙 AI 创作者生态：**探索 2,800+ 全球实用 AI 工具与高精度生图提示词
咒语库

[🧭 语宙 AI 导航 (ai.paooo.com)](https://ai.paooo.com/)[🎨 AI 生图 Prompt 库](https://paooo.com/ai-image-prompts/)
[📚 核心专题导航](https://paooo.com/topics/)[⚡ AIGC 早报生成器](https://paooo.com/mtool/)
