# KuaiFormer – 快手推出的检索框架，基于Transformer

- Link: https://paooo.com/aigc-news/25498/
- Published: 2026-07-14T11:18:29+08:00
- Author: Prompt 语宙研究院

⚡ [Prompt](https://paooo.com/ai-image-prompts/) 语宙 AI 导读 · 30 秒核心看点

 * 将传统检索改写为Next Action Prediction，更贴近用户实时兴趣变化。
 * 多兴趣Query Token+自适应序列压缩，兼顾长序列建模效率与兴趣表达能力。
 * 采用Smooth In-Batch Softmax Loss和LogQ校正，提升亿级候选集训练稳定性。

## KuaiFormer是什么

KuaiFormer是快手技术团队推出的基于Transformer的检索框架，用在大规模内容推荐系统。
基于重新定义检索流程，从传统的分数估计任务转变为Transformer驱动的“下一个动作预测”
范式，有效进行实时兴趣获取和多兴趣提取，显著提升检索性能。KuaiFormer用多兴趣查询
Token、自适应序列压缩机制，实现在亿级候选集上的稳定训练。已在2024 年 5 月集成到快手
App 的短视频推荐系统，为超过4亿日活用户提供服务，显著增加用户日均使用时长。

阅读目录

 * [KuaiFormer是什么](https://paooo.com/aigc-news/25498/#kuaiformer%e6%98%af%e4%bb%80%e4%b9%88)
 * [KuaiFormer的主要功能](https://paooo.com/aigc-news/25498/#kuaiformer%e7%9a%84%e4%b8%bb%e8%a6%81%e5%8a%9f%e8%83%bd)
 * [KuaiFormer的技术原理](https://paooo.com/aigc-news/25498/#kuaiformer%e7%9a%84%e6%8a%80%e6%9c%af%e5%8e%9f%e7%90%86)
 * [KuaiFormer的项目地址](https://paooo.com/aigc-news/25498/#kuaiformer%e7%9a%84%e9%a1%b9%e7%9b%ae%e5%9c%b0%e5%9d%80)
 * [KuaiFormer的应用场景](https://paooo.com/aigc-news/25498/#kuaiformer%e7%9a%84%e5%ba%94%e7%94%a8%e5%9c%ba%e6%99%af)

![KuaiFormer](https://paooo.com/wp-content/uploads/2026/07/KuaiFormer-website-1.
avif)

## KuaiFormer的主要功能

 * **多兴趣提取**：引入多个查询Token捕捉用户的多样化兴趣，模型能更好地理解和预测
   用户的复杂兴趣。
 * **自适应序列压缩**：为提高长序列建模的效率，KuaiFormer设计自适应序列压缩机制，
   基于压缩早期观看的视频序列减少输入序列长度，保留最新的视频信息。
 * **稳定训练技术**：KuaiFormer用一种定制的softmax学习目标和LogQ校正方法，稳定地
   训练模型，在面对亿级候选集时能保持性能。
 * **实时推荐**：实时响应用户的请求，从数十亿的选项中快速选出与用户实时兴趣相关的
   候选项目。

## KuaiFormer的技术原理

 * **Transformer架构**：基于自注意力机制捕捉用户行为序列中的复杂依赖关系。
 * **Next Action Prediction**：KuaiFormer将检索过程转变为预测用户的下一个动作，有助
   于更准确地捕捉用户的实时兴趣。
 * **多兴趣Query Token**：受到BERT中[CLS] Token的启发，引入多个可学习的Query Token，
   结合多兴趣训练策略，从历史项目序列中提取不同的用户兴趣表示。
 * **自适应Item压缩机制**：KuaiFormer将早期项目序列分组并压缩，减少输入序列长度，
   同时对最新项目进行细粒度建模。
 * ** Smooth In-Batch Softmax Loss**：KuaiFormer基于In-Batch Softmax作为学习目标，
   应用LogQ校正方法纠正采样偏差。

## KuaiFormer的项目地址

 * **arXiv技术论文**：[https://arxiv.org/pdf/2411.10057](https://arxiv.org/pdf/2411.10057)

## KuaiFormer的应用场景

 * **短视频推荐**：快手App的短视频推荐系统，分析用户的历史观看行为和兴趣，为用户
   推荐可能感兴趣的新视频。
 * **内容发现**：在内容发现方面，帮助用户探索和发现新内容，增加内容的多样性和新颖
   性，提升用户体验。
 * **个性化推荐**：捕捉用户的多维兴趣，提供更加个性化的推荐，满足用户的个性化需求。
 * **实时推荐系统**：实时响应用户的行为变化，快速更新推荐列表，适用于需要实时推荐
   更新的场景。
 * **大规模数据处理**：在处理数十亿级别的视频库时，KuaiFormer 的高效率和可扩展性
   成为大规模数据处理的理想选择。

🧭 文中关联 [AI 工具](https://ai.paooo.com/)官网与参数卡（语宙 AI 导航）

**NEXT ↗**

NEXT曾是36氪旗下专注于全球创新产品与科技趋势的发现平台。其核心功能在于为科技爱好
者、创业者和投资人群体提供

❓ 常见问题解答（FAQ）

KuaiFormer是什么检索框架？

KuaiFormer是快手技术团队推出的基于Transformer的检索框架，面向大规模内容推荐系统。
它把检索流程从传统分数估计改为“下一个动作预测”，以更好捕捉用户实时兴趣和多兴趣特征。

KuaiFormer为什么适合短视频推荐？

短视频场景用户兴趣变化快、行为序列长，KuaiFormer通过多兴趣Query Token和自适应序列
压缩，既能提取多样兴趣，又能减少长序列计算开销，适合实时推荐和大规模候选集检索。

KuaiFormer在实际业务中有什么效果？

文章提到，KuaiFormer已于2024年5月集成到快手App短视频推荐系统，为超过4亿日活用户提供
服务，并显著增加用户日均使用时长，说明其在真实业务中具备可落地性和效果提升。

🔬 语宙深潜追问 · 进阶实操拆解

多兴趣 Query Token 适合什么业务？

它特别适合用户意图切换频繁的场景，比如短视频、内容流和电商浏览。做法是把用户历史
拆成多个兴趣槽位，再让不同 Query Token 负责不同偏好，能减少单一向量“平均化”带来的
召回损失。

亿级候选集下怎么保证稳定训练？

关键是序列压缩、负采样策略和训练分布控制。工程上要限制超长行为序列的噪声，分层采样
热门与长尾候选，并监控梯度爆炸和兴趣塌缩，否则模型容易在离线指标好看、线上效果失真。

🗳️ 读者观点微投票 · 您的实战立场是？

把推荐检索改成下一个动作预测，真能提升效果吗？

🕸️ 语宙向量知识图谱 · 语义强关联深度内链

[🐋 所属权威专题：DeepSeek 深度实战与部署 →](https://paooo.com/topics/deepseek/)

 * [快手OneRec：颠覆传统推荐！端到端生成式AI系统引爆观看时长与GMV](https://paooo.com/aigc-news/14761/)
 * [DeepEyesV2：小红书开源多模态智能体，引爆AI工具调用与复杂推理新范式](https://paooo.com/aigc-news/13026/)
 * [DeepSeek V3.1 正式发布：128K上下文窗口、混合推理架构与Agent能力全面升级](https://paooo.com/aigc-news/14048/)
 * [快手开源KAT-Dev-72B-Exp：720亿参数编程模型，SWE-Bench准确率74.6%引领AI编程新突破](https://paooo.com/aigc-news/13301/)

[🏛️ Prompt 语宙研究院](https://paooo.com/author/paooo-research/) · Prompt 语宙研究院（
paooo.com Research）专注于前沿多模态大模型架构拆解、AI Agent 工作流评测、AIGC 提示
词工程（Prompt Engineering）与全球高增长 AI 生产力工具实测追踪，致力于为中文开发
者与创作者提供一手、可复现的深度技术洞察。

[📄 Markdown 纯净版](https://paooo.com/aigc-news/25498/?format=md)

💡 这篇内容对您有启发吗？

[📡 RSS 订阅](https://paooo.com/feed/)[✨ 提交 AI 工具 / 合作](https://paooo.com/submit-tool/)

**🚀 Prompt 语宙 AI 创作者生态：**探索 2,800+ 全球实用 AI 工具与高精度生图提示词
咒语库

[🧭 语宙 AI 导航 (ai.paooo.com)](https://ai.paooo.com/)[🎨 AI 生图 Prompt 库](https://paooo.com/ai-image-prompts/)
[📚 核心专题导航](https://paooo.com/topics/)[⚡ AIGC 早报生成器](https://paooo.com/mtool/)