# Profiling Data – DeepSeek开源训练和推理框架的性能分析数据

- Link: https://paooo.com/aigc-news/21518/
- Published: 2026-06-08T18:40:13+08:00
- Author: Prompt 语宙研究院

⚡ [Prompt](https://paooo.com/ai-image-prompts/) 语宙 AI 导读 · 30 秒核心看点

 * 基于PyTorch Profiler的Profiling Data，可直观看到训练与推理中的时间消耗、资源利用
   和通信模式。
 * 预填充与解码均采用微批次重叠计算和全连接通信，帮助平衡负载并提升整体效率。
 * 适合用于定位瓶颈、分析CPU/GPU/内存占用，并对比版本变化检测性能回归。

## Profiling Data是什么

Profiling Data是[DeepSeek](https://paooo.com/?s=DeepSeek)开源的训练和推理框架的性能
分析数据，基于PyTorch Profiler捕获的程序运行过程中的详细信息，用在分析和优化软件
性能。下载后直接在 Chrome 或 Edge 浏览器中基于 `chrome://tracing` 或 `edge://tracing`
打开，进行可视化分析。Profiling Data记录了程序在执行过程中的时间消耗、资源利用率、
通信模式等关键指标。在深度学习框架中，Profiling Data帮助开发者了解模型训练和推理
过程中的计算与通信重叠策略、不同硬件资源的使用情况及潜在的性能瓶颈。基于对数据的
分析，开发者优化代码实现、调整并行策略，提高系统的整体效率。

阅读目录

 * [Profiling Data是什么](https://paooo.com/aigc-news/21518/#profiling-data%e6%98%af%e4%bb%80%e4%b9%88)
 * [Profiling Data的主要功能](https://paooo.com/aigc-news/21518/#profiling-data%e7%9a%84%e4%b8%bb%e8%a6%81%e5%8a%9f%e8%83%bd)
 * [Profiling Data的推理过程](https://paooo.com/aigc-news/21518/#profiling-data%e7%9a%84%e6%8e%a8%e7%90%86%e8%bf%87%e7%a8%8b)
 * [Profiling Data的项目地址](https://paooo.com/aigc-news/21518/#profiling-data%e7%9a%84%e9%a1%b9%e7%9b%ae%e5%9c%b0%e5%9d%80)
 * [Profiling Data的应用场景](https://paooo.com/aigc-news/21518/#profiling-data%e7%9a%84%e5%ba%94%e7%94%a8%e5%9c%ba%e6%99%af)

![Profiling Data](https://paooo.com/wp-content/uploads/2026/06/Profiling-Data-website-
1.avif)

## Profiling Data的主要功能

 * **性能瓶颈定位**：基于记录程序运行过程中的时间消耗、资源使用情况等，帮助开发者
   快速定位性能瓶颈，例如哪些函数或模块占用过多时间或资源。
 * **资源利用分析**：分析CPU、GPU、内存等硬件资源的使用情况，帮助优化资源分配，避免
   资源浪费。
 * **通信模式分析**：在分布式系统中，分析节点之间的通信模式和延迟，优化通信策略，
   减少通信开销。
 * **优化指导**：为代码优化提供数据支持，帮助开发者选择合适的优化策略，例如并行化、
   缓存优化等。

## Profiling Data的推理过程

 * **预填充（Prefilling）**：基于EP32和TP1（与DeepSeek V3/R1的实际在线部署一致），
   提示长度为4K，每个GPU的批次大小为16K个token。用两个微批次来重叠计算和全连接通信，
   确保两个微批次之间的注意力计算负载平衡。
 * **解码（Decoding）**：基于EP128、TP1，提示长度为4K，每个GPU的批次大小为128个请求。
   类似于预填充，解码也使用两个微批次重叠计算和全连接通信。与预填充不同的是，解码
   阶段的全连接通信不会占用GPU SMs（Streaming Multiprocessors，流式多处理器）。在
   RDMA（Remote Direct Memory Access，远程直接内存访问）消息发出后，所有GPU SMs都会
   被释放，系统会计算完成后等待全连接通信完成。

## Profiling Data的项目地址

 * **GitHub仓库**：[https://github.com/deepseek-ai/profile-data](https://github.com/deepseek-ai/profile-data)

## Profiling Data的应用场景

 * **定位性能瓶颈**：快速找出程序中最耗时或最耗资源的部分。
 * **指导性能优化**：根据数据调整策略，提升计算和通信效率。
 * **分析资源利用**：评估硬件资源（如CPU、GPU、内存）的使用情况，避免浪费。
 * **优化系统架构**：根据运行数据调整分布式系统的配置和通信策略。
 * **检测性能回归**：对比不同版本的性能数据，确保优化有效且无性能下降。

🧭 文中关联 [AI 工具](https://ai.paooo.com/)官网与参数卡（语宙 AI 导航）

**DeepSeek ↗**

DeepSeek 是由幻方量化公司推出的 AI 智能助手和开源大模型平台。其核心功能包括提供世界
级推理能力的 A

**PyTorch ↗**

PyTorch：开源的机器学习库，面向AI 开发平台场景提供便捷实用的在线功能支持，涵盖智能
工具等实用方向。

❓ 常见问题解答（FAQ）

Profiling Data是什么？

Profiling Data是DeepSeek开源训练和推理框架的性能分析数据，基于PyTorch Profiler捕获
程序运行细节，可在Chrome或Edge的tracing页面中可视化查看，用于定位瓶颈、分析资源利用
和优化通信策略。

Profiling Data怎么打开查看？

下载后可直接在Chrome浏览器的chrome://tracing或Edge浏览器的edge://tracing中打开，
进行时间线式可视化分析，查看计算、通信和资源占用情况。

Profiling Data能解决什么问题？

它主要用于快速定位性能瓶颈、分析CPU/GPU/内存使用、评估分布式通信模式，并为并行策略、
缓存优化等性能调优提供依据，还可用于检测版本间的性能回归。

🔬 语宙深潜追问 · 进阶实操拆解

Profiler 数据怎么快速定位问题？

先看时间轴里最密集的热点算子，再对照 GPU 利用率、通信等待和内存峰值。若计算段短、
空洞多，通常是数据加载或同步问题；若通信占比高，则要检查并行切分、梯度同步和重叠
策略。

预填充和解码阶段该怎么分别优化？

预填充更关注吞吐和算子融合，适合提升批处理效率；解码更关注单步延迟和 KV Cache 管理，
适合减少同步与访存开销。两阶段不要用同一套优化思路，否则容易顾此失彼。

🗳️ 读者观点微投票 · 您的实战立场是？

[大模型](https://paooo.com/ai-study/)性能分析，最先该盯哪类瓶颈？

🕸️ 语宙向量知识图谱 · 语义强关联深度内链

[🐋 所属权威专题：DeepSeek 深度实战与部署 →](https://paooo.com/topics/deepseek/)

 * [单集群日处理155万亿Token！DeepSeek重磅开源生产级推理框架DeepInfer：首创PD分离、3FS缓存命中率达96%与SWA常数重算架构全景实测深度拆解](https://paooo.com/ai-tool/40593/)
 * [DeepSeek-R1-Lite – 深度求索推出的新一代AI推理模型，媲美OpenAI o1-preview](https://paooo.com/aigc-news/25486/)
 * [DeepSeek-R1 – DeepSeek推出的高性能AI推理模型，性能对标OpenAI o1正式版](https://paooo.com/aigc-news/22722/)
 * [DSpark – DeepSeek 联合北京大学开源的推测解码加速框架](https://paooo.com/aigc-news/24158/)

[🏛️ Prompt 语宙研究院](https://paooo.com/author/paooo-research/) · Prompt 语宙研究院（
paooo.com Research）专注于前沿多模态大模型架构拆解、AI Agent 工作流评测、AIGC 提示
词工程（Prompt Engineering）与全球高增长 AI 生产力工具实测追踪，致力于为中文开发
者与创作者提供一手、可复现的深度技术洞察。

[📄 Markdown 纯净版](https://paooo.com/aigc-news/21518/?format=md)

💡 这篇内容对您有启发吗？

[📡 RSS 订阅](https://paooo.com/feed/)[✨ 提交 AI 工具 / 合作](https://paooo.com/submit-tool/)

**🚀 Prompt 语宙 AI 创作者生态：**探索 2,800+ 全球实用 AI 工具与高精度生图提示词
咒语库

[🧭 语宙 AI 导航 (ai.paooo.com)](https://ai.paooo.com/)[🎨 AI 生图 Prompt 库](https://paooo.com/ai-image-prompts/)
[📚 核心专题导航](https://paooo.com/topics/)[⚡ AIGC 早报生成器](https://paooo.com/mtool/)
