Prompt 语宙Prompt 语宙
  • 首页
  • 语宙 AI 导航
  • AIGC 资讯
    • AIGC 早报生成器Hot
    • 最新趋势
    • AI 工具
    • 热门资源
    • 强化 AI 学习
  • AI 绘图
    • Prompt 实战
    • AI 绘画教程
    • 模型精选
  • AI 图库
    • 人物
    • 展台场景
    • Banner
    • 游戏
    • 动物
    • 食物
    • 自然
    • 背景
    • 海报
    • 建筑
    • 室内设计
  • 出海数字营销宝典
  • AI 生图 Prompt
    • 写实人像
    • 产品与广告
    • 游戏资产与 3D
    • 界面与图标
    • 建筑与室内
    • 动漫与插画
    • 风景与自然
搜索 AIGC 资讯、Prompt 咒语与 AI 工具
  • 语宙 AI 导航
  • 全部资讯
  • AI 生图咒语库
  • AIGC 早报生成器
  • 核心专题
  • 提交工具 / 合作
© 2023–2026 Prompt 语宙 (paooo.com). HalfPX. All Rights Reserved.
阅读: 三版本权重与GGUF全网同步开放!腾讯混元正式开源Hy4-flash家族:224B激活12B、vLLM与llama.cpp部署路线及0.5元定价全拆解
Share
通知 阅读更多
Font Resizer字体
Font Resizer字体
Prompt 语宙Prompt 语宙
搜索 AIGC 资讯、Prompt 咒语与 AI 工具
  • 首页
  • 语宙 AI 导航
  • AIGC 资讯
    • AIGC 早报生成器Hot
    • 最新趋势
    • AI 工具
    • 热门资源
    • 强化 AI 学习
  • AI 绘图
    • Prompt 实战
    • AI 绘画教程
    • 模型精选
  • AI 图库
    • 人物
    • 展台场景
    • Banner
    • 游戏
    • 动物
    • 食物
    • 自然
    • 背景
    • 海报
    • 建筑
    • 室内设计
  • 出海数字营销宝典
  • AI 生图 Prompt
    • 写实人像
    • 产品与广告
    • 游戏资产与 3D
    • 界面与图标
    • 建筑与室内
    • 动漫与插画
    • 风景与自然
已有帐户? 登陆
  • 语宙 AI 导航
  • 全部资讯
  • AI 生图咒语库
  • AIGC 早报生成器
  • 核心专题
  • 提交工具 / 合作
© 2023–2026 Prompt 语宙 (paooo.com). HalfPX. All Rights Reserved.
腾讯混元 Hy4-flash 正式开源官网门户:开放标准版、FP8 量化版及 Base 基座权重下载
Prompt 语宙 > 强化 AI 学习 > 三版本权重与GGUF全网同步开放!腾讯混元正式开源Hy4-flash家族:224B激活12B、vLLM与llama.cpp部署路线及0.5元定价全拆解
强化 AI 学习

三版本权重与GGUF全网同步开放!腾讯混元正式开源Hy4-flash家族:224B激活12B、vLLM与llama.cpp部署路线及0.5元定价全拆解

Prompt 语宙研究院
最近更新: 2026年11月18日 下午4:08
FP8量化 GGUF Hy4-flash 开源大模型 腾讯混元
SHARE
⚡ Prompt 语宙 AI 导读 · 30 秒核心看点
  • 224B总参、12B激活,配合稀疏注意力与SWA,1M上下文 KV Cache 开销显著下降。
  • 标准版、FP8版、Base版与GGUF生态同步开放,本地工作站和私有集群都能部署。
  • 官方 API 结合0.85B投机解码器与自蒸馏瘦身,实测可达150+ TPS,且输出更短更快。

💡 站外导读:两天前揭晓架构面纱的“日常生产力性价比杀手”正式开源。2026 年 11 月 18 日,腾讯混元发布 Hy4-flash 全家族开源权重,覆盖标准版、FP8 量化版与 Base 基座三大规格,并同步登陆 GitHub、Hugging Face、ModelScope 与 GitCode。配合社区跟进的 GGUF 格式与原生 0.85B 投机解码器,开发者已可在本地或私有集群复现 150+ TPS 的极速推理体验。

腾讯混元 Hy4-flash 正式开源官网门户:开放标准版、FP8 量化版及 Base 基座权重下载

一、 开源三件套与 GGUF 生态落地:面向私有化与端侧的完整矩阵

与此前仅开放云端 API 试用的阶段不同,本次腾讯混元在 Tencent-Hunyuan/Hy4-flash 开源仓库一次性释放了面向不同工程环节的三大核心权重包:面向全精度推理集群的标准版 Hy4-flash、专为压缩显存与提升吞吐打造的 Hy4-flash-FP8,以及保留完整预训练特征、允许行业团队从零开展领域继续预训练或 SFT 微调的 Hy4-flash-Base,均遵循 Tencent Hy License 开源协议发布。

阅读目录
  • 一、 开源三件套与 GGUF 生态落地:面向私有化与端侧的完整矩阵
  • 二、 开源版本规格、部署通道与官方 API 价格体系全览
  • 三、 150+ TPS 极速解码秘籍:DFly2 投机解码与自蒸馏瘦身
  • 四、 内部七大产品全量实战背书:开源即可用的生产力闭环
      • 📝 站长洞察 (Editor’s Insight)

更令本地部署玩家欣喜的是,除四大主流代码与模型社区直出权重外,开源社区(如 AngelSlim/Hy4-flash-GGUF)已同步适配出 GGUF 量化格式,结合针对性的 llama.cpp 适配分支,使得拥有 128GB 统一内存工作站或 Mac 集群的个人开发者也能绕开高昂多卡机柜门槛,直接把 224B 量级的模型拉入本地运行环境。同时腾讯官方预告,智商天花板更高的旗舰版 Hy4 模型也已在加速开源队列中。

腾讯混元 Hy4-flash 开源家族发布配图:覆盖标准版、FP8 量化版与 Base 版多平台下载

二、 开源版本规格、部署通道与官方 API 价格体系全览

虽然 Hy4-flash 总参数规模达到 224B(其中包含 64B 的 Engram 查找式 N-gram 参数),但得益于 LatentMoE 潜空间路由,每次前向推理仅动态激活 12B 参数;叠加稀疏注意力(IndexPool)与滑动窗口注意力(SWA)1:3 交错排布,其 1M(100 万)Token 超长上下文下的 KV Cache 内存开销压低至 Hy3 的 1/24、Hy4 的 1/6。下表汇总了本次开源版本与云端商业化通道的关键参数:

版本 / 部署通道 核心规格与适配格式 目标硬件与引擎生态 典型场景与计费参考
Hy4-flash(标准开源版) 224B 总参 / 12B 激活 / 64B Engram,Bfloat16 多卡 GPU 集群,官方支持最新版 vLLM 直接拉起 OpenAI 兼容服务 高保真多模态文档分析、PPT 生成与私有化 Agent 底座
Hy4-flash-FP8(量化开源版) 原生 FP8 权重量化,显存带宽压力大幅降低 Hopper / Ada / Blackwell 等支持 FP8 算子加速卡(vLLM / SGLang) 高并发日常深度搜索、代码辅助,兼顾精度与单卡吞吐
Hy4-flash-Base(底座版) 未经过度指令对齐的预训练基座权重 Megatron / DeepSpeed 等分布式微调框架 金融、医疗、法律等垂直领域从零行业对齐与专有 SFT
社区 GGUF 量化版 4-bit 等低比特 GGUF 封装(如 AngelSlim 维护版) llama.cpp 适配分支,面向 128GB+ 统一内存本地工作站 / Mac 离线数据脱敏处理、个人本地知识库与边缘端实验
腾讯云 TokenHub 官方 API 集成 0.85B 投机解码器 DFly2 + Megakernel,解码 >150 TPS 免运维云端调用,同步内置于元宝、WorkBuddy、企微、QQ、ima、Marvis 输入 0.5 元/M、输出 2 元/M、缓存命中 0.02 元/M(单任务成本约 Hy4 1/20)

三、 150+ TPS 极速解码秘籍:DFly2 投机解码与自蒸馏瘦身

对于实际将开源模型投入生产推理的 SRE 与算法团队而言,Hy4-flash 最具工程借鉴意义的并不仅是“12B 激活”,而是其围绕端到端推理延迟与输出长度做的全链路裁剪。一方面,模型自带了一个极轻量的 0.85B 投机解码器(DFly2),配合 4-bit 量化及底层 Megakernel 算子融合优化,使流式输出速度轻松冲破每秒 150 Token,极大改善了前端对话与多轮工具调用的等待体感。

另一方面,针对推理模型普遍爱“啰嗦废话、狂吐无效思考 Token”的通病,腾讯团队在后训练阶段引入了自蒸馏与强化学习长度惩罚机制,使得 Hy4-flash 的平均输出长度直接降低 50%,而综合任务表现依然略优于上一代 Hy4 preview。这种“快解码 + 短输出”的组合拳,直接支撑起了官方 API 每百万输入 0.5 元、输出 2 元、缓存命中仅 0.02 元的激进定价。

四、 内部七大产品全量实战背书:开源即可用的生产力闭环

不同于许多“论文开源但自家业务不敢用”的实验室模型,Hy4-flash 在开放权重的同时已完成高强度内部业务洗礼。官方披露,该模型目前已在腾讯云 TokenHub、WorkBuddy、腾讯元宝、企业微信、QQ、ima 以及 Marvis 等七大核心产品线正式全量上线,重点承担日常深度搜索、长文档精读提炼、PPT 自动编排、前端轻量 Demo 编写以及桌面端 Computer Use 操作。

随着今日标准版、FP8 与 Base 三版本的全面开放,中小开发团队既可以直接通过 TokenHub 以极低单价接入高并发服务,也可借助 vLLM 与 GGUF 工具链将这套经过亿级用户产品验证的稀疏多模态架构无缝迁入内网隔离环境。

📝 站长洞察 (Editor’s Insight)

两天前看到 Hy4-flash 的论文参数时,业界还在观望这套“64B Engram 查找表 + LatentMoE + 1:3 混合注意力”的复杂结构究竟何时能脱离云端黑盒;今天腾讯直接甩出标准版、FP8 与 Base 三套权重外加社区 GGUF,彻底打消了工程团队的疑虑。尤其值得关注的是自蒸馏带来“输出长度减半”与 0.85B DFly2 投机解码的协同效应——在实际 Agent 生产链路中,把输出冗余砍掉一半往往比单纯压低单价更能直接拉升系统并发上限。对于需要百万上下文且预算吃紧的中小团队,FP8 开源版配合缓存命中 0.02 元/M 的云端兜底,已是当前最具性价比的生产级基座组合之一。

🧭 文中关联 AI 工具官网与参数卡(语宙 AI 导航)
腾讯混元 ↗
腾讯混元大模型是腾讯研发的具备跨领域知识和自然语言理解能力的大语言模型。
LLaMA ↗
Meta(Facebook)推出的AI大语言模型。
LLaMA ↗
在线AI大模型微调平台,零代码、可视化操作。
❓ 常见问题解答(FAQ)
Hy4-flash 开源了哪些版本?

本次开源包含三类核心权重:标准版 Hy4-flash、FP8 量化版 Hy4-flash-FP8、以及未过度指令对齐的 Hy4-flash-Base。社区还同步适配了 GGUF 量化版,便于本地和私有化部署。

Hy4-flash 为什么能做到高吞吐?

它总参数224B,但每次前向仅激活12B,并结合稀疏注意力、滑动窗口注意力和0.85B投机解码器 DFly2,再加上 Megakernel 优化,因此能把流式输出速度提升到150+ TPS。

Hy4-flash 适合哪些部署场景?

标准版适合多卡 GPU 集群和 OpenAI 兼容服务,FP8 版适合支持 FP8 的高并发推理卡,Base 版适合行业继续预训练或 SFT,GGUF 版则更适合 128GB+ 统一内存工作站和 Mac 本地运行。

🔬 语宙深潜追问 · 进阶实操拆解
vLLM和llama.cpp该怎么选?

追求服务端吞吐、并发和动态批处理,优先 vLLM;更看重本地离线、CPU/边缘部署和 GGUF 生态,则选 llama.cpp。若要兼顾量化与推理效率,先按目标硬件做一轮小流量压测再定。

1M上下文落地要注意什么?

长上下文不等于可无脑全开,关键看 KV cache 显存、吞吐衰减和提示词组织。实战里要做分段检索、上下文裁剪和缓存复用,否则长上下文会把成本和延迟一起拉高。

🗳️ 读者观点微投票 · 您的实战立场是?
224B总参只激活12B,你会优先上车吗?
🕸️ 语宙向量知识图谱 · 语义强关联深度内链
🔓 所属权威专题:开源大模型与端侧推理 →
  • 单任务成本暴降至1/13且解码突破150 TPS!腾讯混元重磅发布Hy4flash:224B参数架构、1M长上下文与混合注意力全链路优化全景深度拆解
  • 770B基座迎史诗级进化!腾讯混元Hy4与Hy4flash重磅官宣:首次引入原生视觉理解、思维链效率跃升与Co-Design架构全景拆解
  • 428B 总参+23B 激活!MiniMax 重磅开源 M3.1 Flash:72 小时狂吞百万亿 Token、稀疏注意力与 W4A4 极限能效全景架构深度拆解
  • 登顶开源第一且横扫各大权威基准!腾讯混元全新旗舰大模型Hy4硬核实测:长文本多跳召回、Agent复杂工具编排与代码自愈力横评Kimi K3.1 Pro及DeepSeek V4.1全景拆解
🏛️ Prompt 语宙研究院 · Prompt 语宙研究院(paooo.com Research)专注于前沿多模态大模型架构拆解、AI Agent 工作流评测、AIGC 提示词工程(Prompt Engineering)与全球高增长 AI 生产力工具实测追踪,致力于为中文开发者与创作者提供一手、可复现的深度技术洞察。
📄 Markdown 纯净版
💡 这篇内容对您有启发吗?
📡 RSS 订阅✨ 提交 AI 工具 / 合作
🚀 Prompt 语宙 AI 创作者生态:探索 2,800+ 全球实用 AI 工具与高精度生图提示词咒语库
🧭 语宙 AI 导航 (ai.paooo.com)🎨 AI 生图 Prompt 库📚 核心专题导航⚡ AIGC 早报生成器
机器人视觉迎来新突破!蚂蚁灵波空间感知模型LingBot-Depth 2.0正式发布
NobodyWho – AI游戏引擎插件,本地运行 LLM 实现互动小说创作
Grrow.ai
大语言模型提示工程综述:技巧与应用领域 [译]
Qwen2.5-VL – 阿里通义千问开源的视觉语言模型
TAGGED:FP8量化GGUFHy4-flash开源大模型腾讯混元
分享
Email 复制链接 打印
Share
Prompt 语宙研究院 头像
ByPrompt 语宙研究院
Follow:
Prompt 语宙研究院(paooo.com Research)专注于前沿多模态大模型架构拆解、AI Agent 工作流评测、AIGC 提示词工程(Prompt Engineering)与全球高增长 AI 生产力工具实测追踪,致力于为中文开发者与创作者提供一手、可复现的深度技术洞察。
上一篇 玻璃拟态安全网关与发光节点,OAuth授权后请求级分账动态分流,边界防穿透隐喻,科技杂志风高端插画。 告别用户复制明文API Key时代!Anthropic在Claude平台开启关联账单公测:OAuth请求级计费路由、月度硬上限与ZDR不穿透边界全拆解
下一篇 波士顿动力 Spot 四足机器人与电动版 Atlas 人形机器人同框:将进驻格芯半导体晶圆厂开展非汽车业首测 Spot巡检9万次成功率99%铺路!波士顿动力Atlas首度走出汽车业:2027年初进驻格芯半导体产线,13自由度灵巧手与前Alexa掌门人战略全拆解
Ad image
Ad image

最近更新

花旗银行、摩根大通与美国银行等多家大型商业银行收紧服务条款,明确用户授权第三方 AI 智能体受损需自行担责
哪怕被黑客盗刷也不赔!花旗、摩根大通与美银等五大银行集体改写条款:使用第三方AI智能体风险由客户全权自担,生态入口博弈全面打响
AIGC 资讯
LangSmith for Coding Agents 代码智能体按 PR 结果核算成本与 ROI 官方封面图
340亿美元编码AI开销如何算清账?LangSmith上线代码智能体ROI追踪:按PR结果归因成本、五大工具全统一与线程上下文通胀治理指南
最新趋势
Axiom Math 利用 AI 多智能体集群完成 1.5 万页有限单群分类定理(CFSG)与 7500 页 Stacks 项目数学形式化验证的可视化点阵图
4300万行代码堪比Linux内核!Axiom Math用AI智能体攻克1.5万页“庞大定理”与Stacks项目形式化验证:百个里程碑与分层多智能体架构全拆解
最新趋势
印度具身智能数据初创公司 Humyn Labs 联合创始人 Ishank Gupta(左)与 Manish Agarwal(右)
半年营收破千万且90%来自美国!印度物理AI数据创企Humyn Labs获4700万美元A轮:双摄硬件、2100万债权垫资与20国采集网全拆解
AIGC 资讯

相关推荐

PearAI – 开源的AI代码编辑器,基于VSCode开发直接与代码库对话
AIGC 资讯

PearAI – 开源的AI代码编辑器,基于VSCode开发直接与代码库对话

Prompt 语宙研究院
AI智能体 AI编程 Cursor 开源大模型
成本狂降90%!DeepSeek-V4.1-Flash 重磅升级登顶 WebDev 开源榜首:首创帕累托极致性价比,每百万Token仅0.3美元直逼顶尖闭源
AI 工具最新趋势

成本狂降90%!DeepSeek-V4.1-Flash 重磅升级登顶 WebDev 开源榜首:首创帕累托极致性价比,每百万Token仅0.3美元直逼顶尖闭源

Prompt 语宙研究院
DeepSeek DeepSeek-V4.1-Flash WebDev开源第一 代码智能体 开源大模型
MiniMax发布Code2.0桌面端:底层架构全面重构,原生接入金融多源数据
AIGC 资讯

MiniMax发布Code2.0桌面端:底层架构全面重构,原生接入金融多源数据

Prompt 语宙研究院
AI办公效率 AI智能体 AI编程 MiniMax 开源大模型
性能提升👆,复杂度降低👇:Shopify 工程部的重大革新 [译]
强化 AI 学习

性能提升👆,复杂度降低👇:Shopify 工程部的重大革新 [译]

宝玉的分享
AI办公效率 AI智能体 AI编程 大模型微调
/ Prompt 语宙 /

探索生成式 AI 的无限创作潜能,一站式获取前沿 AIGC 资讯、高阶 Prompt 咒语与全球实用 AI 工具。

核心专栏

  • 语宙 AI 工具导航
  • EVA 视觉抠图工坊Hot
  • 出海数字营销宝典
  • AI 生图咒语灵感库
  • 24H 硅谷 AI 情报流

生态与服务

  • 语宙 AI 导航
  • 全部资讯
  • AI 生图咒语库
  • AIGC 早报生成器
  • 核心专题
  • 提交工具 / 合作

标签

开源大模型 AI智能体 AI办公效率 AI绘画提示词 OpenAI 大模型微调 Midjourney AI编程 stable diffusion AI视频生成 ChatGPT 3D与空间智能 HuggingFace AI音频与语音 RAG检索增强 Claude Flux AIGC Gemini 通义千问 Anthropic Llama Cursor DeepSeek Prompt AI Agent Kimi 智谱AI 具身智能 YouTube
Prompt 语宙Prompt 语宙
Follow US
© 2023–2026 Prompt 语宙 (paooo.com). HalfPX. All Rights Reserved.