Kimi K3 – 月之暗面开源的最新最强 AI 大模型

Kimi K3是什么

Kimi K3 是月之暗面推出的 2.8 万亿参数开源大模型，基于 KDA 混合线性注意力机制与注意力残差技术构建，原生支持视觉理解，拥有 100 万 token 上下文窗口。Kimi K3作为全球首个开源的 3 万亿级别模型，面向长程编程、知识工作和推理等前沿智能场景设计，在编程、Agent 和知识工作评测中达到前沿水平。

Kimi K3的主要功能

• 长程编程：支持理解和处理大型代码库，持续完成长时间工程任务，协调使用终端工具。
• 视觉推理：结合软件工程与视觉推理，利用截图和视觉反馈优化游戏开发、前端和 CAD。
• 内核优化：在 GPU 沙箱中独立分析、重写并验证 GPU 内核优化，24 小时内持续迭代。
• 编译器开发：从零构建类 Triton GPU 编译器（MiniTriton），实现完整优化到 PTX 代码生成流水线。
• 交互式创作：融合 3D 推理、编程与视觉能力，将概念转化为可玩的交互体验。
• 芯片设计：基于开源 EDA 工具自主完成芯片构建、优化与验证，实现模型为自身服务的芯片设计。
• 科研编程：打通科学文献与可执行代码，自主完成复杂计算研究流程的实现、验证和分析。

Kimi K3的技术原理

• KDA 混合线性注意力机制：Kimi K3 基于 Kimi Delta Attention（KDA）构建，一种混合线性注意力机制，通过让信息在更长序列和更深模型中更顺畅地流动，提升长上下文处理能力。
• 注意力残差（Attention Residuals）：模型引入 Attention Residuals 技术，使深层网络中的信息传递更稳定，缓解随着模型深度增加可能出现的梯度衰减问题。
• Stable LatentMoE 稀疏架构：采用 Mixture of Experts（MoE）架构，结合 Stable LatentMoE 框架，在 896 个专家中仅高效激活 16 个，大幅提升计算效率与参数利用率。
• 原生视觉与长上下文支持：模型原生支持视觉理解，具备 100 万 token 的上下文窗口，可同时处理超长文本与多模态输入。

如何使用Kimi K3

• 官方入口：访问 Kimi、最新版 Kimi 手机 App 或 Kimi Work 桌面客户端，可直接调用 Kimi K3 模型进行对话。
• 编程专用：通过 Kimi Code 客户端使用 K3，专为长程编程、代码库理解和终端工具协调等开发场景优化。
• API 接入：调用 Kimi API 将 K3 集成到自有应用或工作流中，支持自动化任务与第三方系统对接。
• 思考强度调节：当前默认开启 max（极致）思考模式，后续更新将支持 low 和 high 两种强度，可按任务复杂度灵活切换。

Kimi K3的核心优势

• 规模领先：全球首个开源 3 万亿级别模型，过去 12 个月中 9 个月保持开源模型规模上限。
• 长程自主：在长时间工程任务中表现稳定，支持 24 小时自主内核优化和 48 小时芯片设计 Agent 运行。
• 成本效率：在 Kimi Code Bench 和 BrowseComp 等评测中，用更低成本达到接近顶级闭源模型的性能。
• 视觉闭环：支持代码与实时截图之间的无缝迭代，实现真正的视觉反馈优化（vision in the loop）。
• 端到端科研：可自主阅读文献、实现数值流程、发现已发表公式中的不一致并生成交互式仪表盘。

Kimi K3的项目地址

完整模型权重将于 2026 年 7 月 27 日前发布。

Kimi K3的同类竞品对比

Kimi K3的应用场景

• 大型软件工程：模型可独立分析和重构大型代码库，持续完成需要数小时甚至数天的复杂开发任务。
• GPU 内核与编译器优化：为高性能计算场景自动优化 GPU 内核或从零构建领域专用编译器。
• 交互式 3D 内容开发：结合视觉反馈快速迭代，将概念转化为可玩的 3D 游戏、模拟器或可视化作品。
• 科研计算与数据分析：自主阅读文献、复现数值流程、评估大量状态方程并生成交互式结果仪表盘。
• 硬件芯片设计：基于开源 EDA 工具链自主完成芯片架构设计、优化与验证，实现模型为自身服务的芯片设计。