Prompt 语宙Prompt 语宙
  • 首页
  • 语宙 AI 导航
  • AIGC 资讯
    • AIGC 早报生成器Hot
    • 最新趋势
    • AI 工具
    • 热门资源
    • 强化 AI 学习
  • AI 绘图
    • Prompt 实战
    • AI 绘画教程
    • 模型精选
  • AI 图库
    • 人物
    • 展台场景
    • Banner
    • 游戏
    • 动物
    • 食物
    • 自然
    • 背景
    • 海报
    • 建筑
    • 室内设计
  • 出海数字营销宝典
  • AI 生图 Prompt
    • 写实人像
    • 产品与广告
    • 游戏资产与 3D
    • 界面与图标
    • 建筑与室内
    • 动漫与插画
    • 风景与自然
搜索 AIGC 资讯、Prompt 咒语与 AI 工具
  • 语宙 AI 导航
  • 全部资讯
  • AI 生图咒语库
  • AIGC 早报生成器
  • 核心专题
  • 提交工具 / 合作
© 2023–2026 Prompt 语宙 (paooo.com). HalfPX. All Rights Reserved.
阅读: 180B参数硬塞进32GB内存!Hugging Face突破Transformers卸载瓶颈:SSD流式专家推理实测追平Strata仅差6%
Share
通知 阅读更多
Font Resizer字体
Font Resizer字体
Prompt 语宙Prompt 语宙
搜索 AIGC 资讯、Prompt 咒语与 AI 工具
  • 首页
  • 语宙 AI 导航
  • AIGC 资讯
    • AIGC 早报生成器Hot
    • 最新趋势
    • AI 工具
    • 热门资源
    • 强化 AI 学习
  • AI 绘图
    • Prompt 实战
    • AI 绘画教程
    • 模型精选
  • AI 图库
    • 人物
    • 展台场景
    • Banner
    • 游戏
    • 动物
    • 食物
    • 自然
    • 背景
    • 海报
    • 建筑
    • 室内设计
  • 出海数字营销宝典
  • AI 生图 Prompt
    • 写实人像
    • 产品与广告
    • 游戏资产与 3D
    • 界面与图标
    • 建筑与室内
    • 动漫与插画
    • 风景与自然
已有帐户? 登陆
  • 语宙 AI 导航
  • 全部资讯
  • AI 生图咒语库
  • AIGC 早报生成器
  • 核心专题
  • 提交工具 / 合作
© 2023–2026 Prompt 语宙 (paooo.com). HalfPX. All Rights Reserved.
Hugging Face 团队在 32GB 内存 Mac 上通过 Transformers 流式推理 180B MoE 大模型封面图
Prompt 语宙 > 强化 AI 学习 > 180B参数硬塞进32GB内存!Hugging Face突破Transformers卸载瓶颈:SSD流式专家推理实测追平Strata仅差6%
强化 AI 学习

180B参数硬塞进32GB内存!Hugging Face突破Transformers卸载瓶颈:SSD流式专家推理实测追平Strata仅差6%

Prompt 语宙研究院
最近更新: 2026年11月21日 下午9:06
Hugging Face Transformers Metal内核优化 MoE专家流式推理 Qwen3.8-Flash-Next 端侧大模型
SHARE
🔄 2026 实时联网保鲜核验(2026-11-22):Hugging Face 该磁盘卸载思路已进入主线文档,当前更推荐用 experts_implementation 与 offload_folder 配合,而不是依赖旧式 CPU 卸载;Qwen3.8-Flash 已有官方正式版,默认 1M 上下文,生产侧优先选它而非实验分支。
⚡ Prompt 语宙 AI 导读 · 30 秒核心看点
  • 通过PR #50717重构卸载路径,Transformers首次用槽池复用与流式落盘跑通180B MoE端侧推理。
  • 固定槽池+grouped_mm复用,避免Python循环拆图,OLMoE-1B-7B吞吐从10.1 tok/s升至34.6 tok/s。
  • 在32GB MacBook M5上,Qwen3.8-Flash-Next解码达13.9 tok/s,较Strata仅差6%。

💡 站外导读:180B参数MoE模型能跑进32GB统一内存笔记本吗?Hugging Face工程师Tarek Ziadé近日公开硬核实验:通过改造Transformers磁盘卸载路径(PR #50717),在MacBook M5上流式运行Qwen3.8-Flash-Next。借助固定槽池复用grouped_mm、3-bit量化、51GB n-gram落盘及Metal内核,解码达13.9 tok/s,距Strata仅差6%。

Hugging Face 团队在 32GB 内存 Mac 上通过 Transformers 流式推理 180B MoE 大模型封面图

一、端侧跑 180B MoE 的内存死结:为何 Accelerate、vLLM 与 llama.cpp 各自折戟?

随着稀疏混合专家(MoE)模型普及,专家权重往往占去整网参数量的 90% 以上。以 Qwen3.8-Flash-Next 为例,全模型共 48 层、每层配置 512 个专家(单 Token 仅激活 10 个),仅 FP8 专家权重就高达 121 GB,外加一张体积惊人的 51 GB n-gram 嵌入表。面对仅配备 32GB 统一内存的 MacBook M5,传统内存常驻方案几乎瞬间触发 Swap 崩溃。

阅读目录
  • 一、端侧跑 180B MoE 的内存死结:为何 Accelerate、vLLM 与 llama.cpp 各自折戟?
  • 二、槽池复用与三层落盘:Transformers #50717 如何把“不可能”压进 25.4 GiB 峰值?
  • 三、六项关键调优填平 3.2 倍鸿沟:200-Token 解码 13.9 tok/s、Prefill 反超至 228 tok/s
  • 四、最后 6% 的真相与工程边界:PyTorch MPS 主机往返墙与端侧部署启示
      • 📝 站长洞察 (Editor’s Insight)

作者在提交 huggingface/transformers#50717 前,先在单张 A10G(24 GB 显存)搭配充足系统内存的环境下,对 Qwen3.6-35B-A3B 实测对比了主流推理引擎的卸载机制,从“专家驻留位置、矩阵乘法执行单元、每 Token 跨总线搬运量”三个维度剖析了既有方案的瓶颈:

  • llama.cpp(内存映射 + CPU 算专家):通过 mmap 映射 GGUF 文件并用 --cpu-moe/--fit on 把专家留在 CPU 侧计算,跨 PCIe 的只有激活值。只要内存装得下专家权重,Q8_0 可达 63–64 tok/s;但一旦超出物理内存,操作系统页缓存会剧烈抖动,新合入的 --moe-cache-mib 亦会打碎计算图(单 Token 由 2 次切分暴增至 50 次)带来约 10% 性能损耗;
  • vLLM(锁页内存按需拉取):启用 --cpu-offload-params experts 可将解码速度翻倍至 FP8 下的 20.1 tok/s,但缺乏设备端专家缓存与磁盘分层——高频热专家仍需在每个 Token 重复跨越 PCIe,而在苹果统一内存架构上的 vllm-metal 则因必须把 32 GB n-gram 表全量常驻内存,直接无缘 32GB 设备上的 Qwen3.8-Flash-Next;
  • Transformers + Accelerate 原生路径:以整个模块为单位通过钩子拷贝权重至 GPU。对 MoE 而言,一个模块即整层全部专家库,导致每生成一个 Token 都不得不搬运整层所有专家只为算其中 8–10 个,实测速度跌至惨不忍睹的 0.16 tok/s。
推理引擎与配置 (Qwen3.6-35B-A3B / A10G 24GB) 解码吞吐 (tok/s) 专家计算与缓存机制 32GB Mac 跑 180B 核心瓶颈
Strata (Q8_0 专用分级流式引擎) 82 – 88 热专家常驻显存,冷专家落 RAM/磁盘并预取 端侧可达 14.8 tok/s,但高度专用化难自由魔改
llama.cpp (Q8_0, –fit on) 63 – 64 CPU 计算专家,仅激活值过总线 模型超物理 RAM 时 page cache 严重抖动
vLLM (FP8, –cpu-offload-params experts) 20.1 仅路由专家驻锁页 RAM,无设备级缓存 无磁盘 Tier;MLX 版未流式卸载 32GB n-gram 表
Transformers + Accelerate (device_map=”auto”) 0.16 逐模块搬运整层全量专家权重,无路由感知 Mac 统一内存无独立 CPU 池,“CPU 卸载”零收益

二、槽池复用与三层落盘:Transformers #50717 如何把“不可能”压进 25.4 GiB 峰值?

作者首先在可完整装入内存的 OLMoE-1B-7B 上验证基线。初版设计为“专家落盘 + LRU 缓存 + Python 循环逐个执行命中专家”,结果即便所有专家都在缓存里也只有 10.1 tok/s(原生 Transformers 为 ~32 tok/s)。性能剖析表明瓶颈根本不在磁盘 I/O,而在于 Python 循环破坏了原生的 grouped_mm 批量融合算子。

整个项目最核心的工程破局由此诞生——预分配设备槽池(Slot Pool):系统在设备端只开辟一块固定大小的共享张量缓冲池,并由每层维护一张 expert_id → slot_id 映射表。前向推理时,只要将路由器的专家索引重映射为槽位索引,这块共享缓冲池在内存布局上就与常规专家库完全等价,无需编写任何自定义专家矩阵乘法,即可直接复用原版 grouped_mm。这一改动立刻将 OLMoE-1B-7B 拉升至 34.6 tok/s,直逼原生 38.1 tok/s。

在此基础上,作者向 huggingface/transformers#50717 提交了与 from_pretrained 无缝集成的 experts_offload 配置方案,当 device_map 将 "experts.*" 指向 "disk" 时自动切换为流式路径:

model = AutoModelForCausalLM.from_pretrained(
  f"{path}/dense",
  dtype=torch.bfloat16,
  device_map={"": "mps", "experts.*": "disk"},
  quantization_config=MetalConfig(bits=8),
  experts_offload={"cache_bytes": 12 << 30, "quantized_experts": f"{path}/experts-q3"}
)

针对 180B 规模的 Qwen3.8-Flash-Next,离线转换脚本耗时约 5 小时完成了三层拆解:① 专家权重量化至 3-bit(磁盘占用 49 GB,设备 LRU 缓存上限 12 GiB);② 稠密层量化至 8-bit(约 5.4 GB,相对 BF16 困惑度仅增加 0.2%);③ 将 51 GB 的 n-gram 嵌入表保留在固态硬盘上按行按需读取。实测加载后静态内存仅占约 18 GiB,处理 6K 长提示词峰值控制在 25.4 GiB,恰巧卡在 32GB MacBook 不触发剧烈交换的物理极限边缘。

三、六项关键调优填平 3.2 倍鸿沟:200-Token 解码 13.9 tok/s、Prefill 反超至 228 tok/s

初版方案跑通后,面对 14.8 tok/s 的 Strata 0.1.60(IQ3_XXS),Transformers 流式版在 200-token 解码上只有 10.0 tok/s,4K Prefill 更以 68 vs 220 tok/s 落后 3.2 倍。但深入 Profiling 后作者意外发现,绝大部分耗时并非卡在磁盘读取专家,而是浪费在 GPU 空等 Python 调度与算子未融合上。

通过六项精准优化,单层单 Token 的流水线被重新压榨至硬件极限(如图所示:路由器选定 10 个专家,命中 8 个缓存、8 线程并发从 SSD 拉取缺失的 2 个专家进入空闲槽位,随后在缓存槽上执行 GPU 计算,同时趁 SSD 空闲为下一层提前预取 1 个由前序隐藏状态预测的专家):

  • 提前提交 MPS 命令队列(+10% 提速):PyTorch MPS 后端默认会把小算子攒到下一次同步才提交,导致 Python 干活时 GPU 处于饥饿闲置。在每个 Block 结束强制 Commit 立即释放 GPU 算力;
  • 补齐 macOS Metal 原生算子:利用 torch.mps.compile_shader 与 Hub 预编译内核,为缺少快速路径的 Gated DeltaNet 与 hyper-connections 补齐原生 Metal Kernel;
  • 切换 Strata GGUF 紧凑权重:将单 Token 稠密权重访存由 5.4 GB 压至 3.9 GB,单个专家体积由 2.15 MB 缩至 1.75 MB,并为不同尺寸专家建立独立缓存池;
  • 大块 Prefill 与异步重叠预取:采用 1,024-token 分块与计算/SSD 读取重叠,4K Prefill 吞吐直接从 68 tok/s 暴涨至 228 tok/s,一举反超 Strata(220 tok/s);
  • 原地扩张 KV Cache 与局部注意力:长文本场景下仅针对索引器选中的块计算注意力,并将 KV Cache 改造为原地增长,避免每 Token 整块拷贝;
  • 克制的单专家猜选预取:实验证明 Strata 同样无法隐藏未命中延迟且复杂替换策略难以大幅跑赢 LRU,最佳平衡点是在 SSD 空闲窗口期仅为下一层猜读 1 个高概率专家,避免无效带宽挤占。
MoE 专家缓存槽池与 SSD 异步预取单层单 Token 推理流水线原理图
MacBook M5 32GB 统一内存实测场景 (贪心解码/关闭思考) Transformers 优化前 Transformers 优化后 Strata 0.1.60 基准差距
200-Token 短上下文解码 10.0 tok/s 13.9 tok/s 仅落后 6%(Strata 为 14.8 tok/s)
4K Prompt Prefill 预填充 68 tok/s 228 tok/s 反超约 3.6%(Strata 为 220 tok/s)
6K 长文档后继续解码 7.3 tok/s 12.4 tok/s 差距由 1.9 倍收敛至 1.1 倍(Strata 13.7)

四、最后 6% 的真相与工程边界:PyTorch MPS 主机往返墙与端侧部署启示

经过这轮无一行 C++ 扩展(纯 Python + 运行时编译 Metal 着色器)的极限重构,Transformers 已经与高度工程化的 C++/Metal 原生引擎 Strata 站到了同一水平线上。然而,作者也坦诚揭示了最后 ~6% 性能差背后的底层硬墙:每 Token 约 10 毫秒的主机往返开销(Host Round-Trip)。

在这 10 ms 中,同步唤醒本身只占约 1 ms,真正吞噬算力的是“Python 逐层排队下一层计算时 GPU 处于空转干等状态”。相比之下,Strata 能够把整条 Token 流水线一次性提前提交进队列,让 GPU 在每一层直接等待 Metal shared event(共享事件信号),待主机完成专家读取后无缝放行。作者曾尝试在 PyTorch MPS 上用自旋内核轮询 CPU 写入的标志位来模拟这一机制,结果 GPU 却出现从 1 秒到彻底死锁的极不稳定延迟;若要彻底根治,只能在 PyTorch MPS 流底层新增原生同步 Op,同时直面驱动挂起风险。

对于广大 AI 工程师而言,这项开源于 tarekziade/moe-expert-streaming 的工作意义远超“在笔记本上跑 14 tok/s 还是不够 Coding Agent 日用”本身:它清晰证明了在消费级统一内存硬件上,只要围绕稀疏路由缓存槽池 + 嵌入表分级落盘 + 异步单专家预取构建内存边界,通用 Python 框架同样能释放 94% 的原生硬件潜能,而未来 API 也将逐步收敛至 Transformers #50245 的逐层量化规范,让百亿至两千亿级开源 MoE 模型真正具备普惠可观测的端侧实验底座。

📝 站长洞察 (Editor’s Insight)

这篇文章是2026年端侧MoE系统工程难得的裸金属解剖样本。过去大家在32GB Mac上跑不动百B级MoE,总以为瓶颈在SSD带宽;Hugging Face作者用数据打破了这一直觉——拖垮Python框架的,是破坏grouped_mm融合的循环调度与PyTorch MPS每Token约10ms的主机同步空转。通过槽池将流式专家伪装成标准张量库,再把51GB n-gram表留在磁盘按行读取,Transformers未写一行C++扩展便将差距缩至6%,4K预填充更反超Strata。消费级推理的破局关键在于消除GPU同步气泡与按需分片嵌入表。

🧭 文中关联 AI 工具官网与参数卡(语宙 AI 导航)
HuggingFace ↗
HuggingFace:AI模型开发社区,面向大语言模型场景提供便捷实用的在线功能支持,涵盖大模型等实用方向。
LLaMA ↗
Meta(Facebook)推出的AI大语言模型。
LLaMA ↗
在线AI大模型微调平台,零代码、可视化操作。
❓ 常见问题解答(FAQ)
Transformers #50717 解决了什么问题?

它主要解决MoE模型在卸载推理中的性能瓶颈:通过预分配设备槽池、专家索引重映射和流式落盘,避免逐专家Python循环与整层搬运,从而让大模型在小内存设备上更高效运行。

为什么传统 Accelerate 和 vLLM 不适合 32GB 端侧跑 180B MoE?

因为MoE专家权重和n-gram表体积过大,传统方案要么整层搬运、要么缺少磁盘分层与设备级缓存,容易触发内存抖动或无法容纳全部权重,在32GB统一内存设备上很难稳定运行。

这次实测的核心性能结果是什么?

在MacBook M5上流式运行Qwen3.8-Flash-Next,解码速度达到13.9 tok/s,距离Strata仅差6%;同时在OLMoE-1B-7B基线中,优化后吞吐提升到34.6 tok/s。

📊 Qwen3.8-Flash-Next 的 MoE 推理/缓存示意图关键参数(AI 视觉结构化提取)

核心发现:图中展示的是 Qwen3.8-Flash-Next 的 MoE 推理架构示意:SSD 侧存放 24,576 个专家,Expert cache 仅保留 12 GiB 的 LRU 缓存并为每层提供 153 个槽位,GPU 端每个 token 只激活 10 个专家。

模块参数/说明数值
SSDexperts 总数24,576
SSD每个 expert 大小~1.75 MB
SSD每个 expert 读取次数1 次
Expert cache缓存容量12 GiB
Expert cache缓存策略LRU
Expert cache每层缓存槽位153
GPUMoE 层数48
GPU每个 token 激活 expert 数10
GPU每层 expert 总数512
🔬 语宙深潜追问 · 进阶实操拆解
SSD流式卸载的性能瓶颈在哪?

核心瓶颈通常不在算力,而在随机读写延迟、页缓存命中率和卸载粒度。实战里要尽量做顺序化访问、预取热点权重,并把 KV cache、专家权重和临时张量的 I/O 路径分开优化。

MoE端侧落地该怎么选模型?

优先选专家稀疏、激活参数少、层间访问模式稳定的 MoE。落地时先看峰值内存、磁盘带宽和首 token 延迟,再决定是否做量化、分层卸载或只保留高频专家常驻内存。

🗳️ 读者观点微投票 · 您的实战立场是?
180B模型硬塞进32GB内存,值得吗?
🕸️ 语宙向量知识图谱 · 语义强关联深度内链
  • 个人笔记本满血跑1450亿大模型!Edge0重磅开源Edge0-145B:首创MoE三层存储流水线、内存狂省60%仅需29GB与端侧优先全栈实战全景深度拆解
  • 428B 总参+23B 激活!MiniMax 重磅开源 M3.1 Flash:72 小时狂吞百万亿 Token、稀疏注意力与 W4A4 极限能效全景架构深度拆解
  • 阶跃星辰开源Step 3.5 Flash:1960亿参数MoE模型,350TPS极速推理与Agent性能比肩顶尖闭源模型
  • 8GB消费级显卡飙出128K超长上下文!开源本地大模型神器Strata 0.2.10发布:首发DFlash2推测解码、多卡全分割引擎与极客装机深度实测
🏛️ Prompt 语宙研究院 · Prompt 语宙研究院(paooo.com Research)专注于前沿多模态大模型架构拆解、AI Agent 工作流评测、AIGC 提示词工程(Prompt Engineering)与全球高增长 AI 生产力工具实测追踪,致力于为中文开发者与创作者提供一手、可复现的深度技术洞察。
📄 Markdown 纯净版
💡 这篇内容对您有启发吗?
📡 RSS 订阅✨ 提交 AI 工具 / 合作
🚀 Prompt 语宙 AI 创作者生态:探索 2,800+ 全球实用 AI 工具与高精度生图提示词咒语库
🧭 语宙 AI 导航 (ai.paooo.com)🎨 AI 生图 Prompt 库📚 核心专题导航⚡ AIGC 早报生成器
Sam Altman 在斯坦福创业者思维领导研讨会上的对话 [译]
构建企业级大语言模型应用的秘诀:GitHub Copilot 的实践之路 [译]
令人难以置信!用这项新技术在仅有 4GB GPU 的设备上运行 70B 大语言模型推理 [译]
数学队——及其他你为了进入斯坦福而做出的疯狂之举 [译]
提升软件工程效率的小技巧:留点悬念,让工作更流畅 [译]
TAGGED:Hugging Face TransformersMetal内核优化MoE专家流式推理Qwen3.8-Flash-Next端侧大模型
分享
Email 复制链接 打印
Share
Prompt 语宙研究院 头像
ByPrompt 语宙研究院
Follow:
Prompt 语宙研究院(paooo.com Research)专注于前沿多模态大模型架构拆解、AI Agent 工作流评测、AIGC 提示词工程(Prompt Engineering)与全球高增长 AI 生产力工具实测追踪,致力于为中文开发者与创作者提供一手、可复现的深度技术洞察。
上一篇 AI 搜索时代从技术引用博弈回归全链路营销与信息检索体系概念主图 ChatGPT引流不足谷歌1%,推荐后7天回访却飙升2.5倍!Telegraph SEO总监万字实操:拆解信息检索三层边界、实体图谱与AI搜索增长闭环
下一篇 从客户录音、Reddit社区与Gemini查询扇出挖掘传统关键词工具遗漏的高意图AI提问实战主图 搜索量显示为0却是成交密码!如何挖出客户天天问AI、关键词工具却完全漏掉的高意图长尾问题(附Gemini扇出与GSC正则)
Ad image
Ad image

最近更新

Latent Space 对话 Black Forest Labs 核心创始人 Andreas Blattmann 与 Dustin Podell:从 FLUX 到视觉智能与世界动作模型
视觉智能为什么不能只靠静态图片?对话Black Forest Labs创始人:FLUX 3音画联合训练、扩散与自回归之争及世界动作模型全拆解
强化 AI 学习
Google 官方详解网站迁移至 CDN 如何避免爬虫流量激增打崩源站与误封 Googlebot 导致搜索掉收录
刚切上CDN源站反被爬虫打崩?Google官方拆解迁移翻车悖论:冷缓存雪崩、验证码误杀与预热止血指南
AI 工具
GitHub 正式上线 Repository insights 页面,集中展示 Copilot 代码审查采纳率与评论分类统计结果
AI代码审查到底有没有被采纳?GitHub上线Repository insights与repos-1-day API:四维信号、力度趋势及统计陷阱全拆解
AI 工具
Forrester AI 颠覆评估模型 17 大技术与服务品类分布图:呈现受颠覆、中立、争夺与加速四类市场象限及细分赛道数量
80%技术市场面临AI重塑冲击!Forrester拆解200+细分赛道颠覆矩阵:四大象限与Top 20合同采购谈判实战
最新趋势

相关推荐

AI 时代下,用户体验面临的复杂性挑战 [译]
强化 AI 学习

AI 时代下,用户体验面临的复杂性挑战 [译]

宝玉的分享
AI办公效率 AI智能体 Perplexity RAG检索增强 大模型微调
软件工程人员的薪酬来自以下三项预算之一 [译]
强化 AI 学习

软件工程人员的薪酬来自以下三项预算之一 [译]

宝玉的分享
AI办公效率 AI智能体 AI编程 大模型微调
AI 如何影响科学?[译]
强化 AI 学习

AI 如何影响科学?[译]

宝玉的分享
3D与空间智能 AI智能体 DeepSeek 大模型微调 开源大模型
腾讯混元Hy4 770B旗舰开源大模型在代码、推理与专业场景下的权威基准测试对比图
强化 AI 学习

770B旗舰全量开源且幻觉率压至5.45%!腾讯混元Hy4权重上线全拆解:Gated DSA、DFly2投机解码与玄武安全体检报告

Prompt 语宙研究院
AI编程 DeepSeek MoE架构 大模型安全评估 大模型微调 开源大模型 投机解码DFly2 腾讯混元 腾讯混元Hy4
/ Prompt 语宙 /

探索生成式 AI 的无限创作潜能,一站式获取前沿 AIGC 资讯、高阶 Prompt 咒语与全球实用 AI 工具。

核心专栏

  • 语宙 AI 工具导航
  • EVA 视觉抠图工坊Hot
  • 出海数字营销宝典
  • AI 生图咒语灵感库
  • 24H 硅谷 AI 情报流

生态与服务

  • 语宙 AI 导航
  • 全部资讯
  • AI 生图咒语库
  • AIGC 早报生成器
  • 核心专题
  • 提交工具 / 合作

标签

开源大模型 AI智能体 AI办公效率 AI绘画提示词 OpenAI 大模型微调 Midjourney AI编程 stable diffusion AI视频生成 ChatGPT 3D与空间智能 HuggingFace AI音频与语音 RAG检索增强 Claude Flux AIGC Gemini 通义千问 Anthropic Llama Cursor DeepSeek Prompt AI Agent Kimi 智谱AI 具身智能 YouTube
Prompt 语宙Prompt 语宙
Follow US
© 2023–2026 Prompt 语宙 (paooo.com). HalfPX. All Rights Reserved.