# Inkling – Thinking Machines Lab 推出的多模态基础模型

- Link: https://paooo.com/aigc-news/31056/
- Published: 2026-07-16T20:42:59+08:00
- Author: Prompt 语宙研究院

⚡ [Prompt](https://paooo.com/ai-image-prompts/) 语宙 AI 导读 · 30 秒核心看点

 * 原生多模态 + MoE 架构，支持文本、图像、音频统一推理，面向通才型工作流。
 * 百万 token 上下文、effort 可调与开放权重微调，让它兼顾低延迟与高性能。
 * 在 Terminal Bench 等测试中以更少 token 达到同级表现，适合企业[智能体](https://paooo.com/trends/)
   与长流程任务。

## Inkling是什么

Inkling 是 Thinking Machines Lab 推出的开放权重多模态基础模型。模型原生支持文本、
图像与音频输入，采用混合专家架构，在 410 亿激活参数下实现跨模态推理，支持开发者通过
Tinker 平台下载权重、按需微调。与追求单项 benchmark 冠军的模型不同，Inkling 追求
在智能体、编程、视觉、音频等广泛任务中保持均衡表现，成为可嵌入不同工作流的后台推理
引擎。

阅读目录

 * [Inkling是什么](https://paooo.com/aigc-news/31056/#inkling%e6%98%af%e4%bb%80%e4%b9%88)
 * [Inkling的主要功能](https://paooo.com/aigc-news/31056/#inkling%e7%9a%84%e4%b8%bb%e8%a6%81%e5%8a%9f%e8%83%bd)
 * [Inkling的技术原理](https://paooo.com/aigc-news/31056/#inkling%e7%9a%84%e6%8a%80%e6%9c%af%e5%8e%9f%e7%90%86)
 * [如何使用Inkling](https://paooo.com/aigc-news/31056/#%e5%a6%82%e4%bd%95%e4%bd%bf%e7%94%a8inkling)
 * [Inkling的核心优势](https://paooo.com/aigc-news/31056/#inkling%e7%9a%84%e6%a0%b8%e5%bf%83%e4%bc%98%e5%8a%bf)
 * [Inkling的项目地址](https://paooo.com/aigc-news/31056/#inkling%e7%9a%84%e9%a1%b9%e7%9b%ae%e5%9c%b0%e5%9d%80)
 * [Inkling的同类竞品对比](https://paooo.com/aigc-news/31056/#inkling%e7%9a%84%e5%90%8c%e7%b1%bb%e7%ab%9e%e5%93%81%e5%af%b9%e6%af%94)
 * [Inkling的应用场景](https://paooo.com/aigc-news/31056/#inkling%e7%9a%84%e5%ba%94%e7%94%a8%e5%9c%ba%e6%99%af)

![Inkling](https://paooo.com/wp-content/uploads/2026/07/Inkling-website-1.avif)

## Inkling的主要功能

 * **多模态原生理解**：同时处理文本、图像与音频输入，支持语音转写、视觉问答、图表
   推理及长音频分析。
 * **智能体与工具调用**：内置多框架工具使用能力，可执行浏览器操作、代码生成、终端
   任务与多轮协作开发。
 * **可控推理强度**：支持调节推理深度（effort 参数），在 token 成本与性能间灵活权衡，
   低延迟场景下仍保持高效。
 * **超长上下文处理**：最高支持 100 万 token 上下文，适用于长文档分析、多轮对话与
   复杂工作流。
 * **开放权重与微调**：完整权重通过 Hugging Face 开放，配合 Tinker 平台提供端到端
   微调与自训练能力。

## Inkling的技术原理

 * **MoE 稀疏架构**：66 层解码器-only Transformer，256 位专家中每 token 激活 6 位
   专家 + 2 位共享专家，总参数 9750 亿、激活参数 410 亿。
 * **无编码器多模态**：图像经 40×40 像素块通过四层 hMLP 编码，音频以 dMel 频谱图
   离散 token 输入，所有模态投影至共享隐空间统一解码。
 * **混合注意力机制**：局部与全局注意力层交替，平衡长上下文记忆与计算效率。
 * **量化部署**：支持 BF16、MXFP8 与 NVFP4 精度，NVFP4 量化后仅需 600GB 显存即可
   运行。
 * **训练数据**：在 45 万亿 token 的文本、图像、音频与视频数据上预训练，数据经去
   重、过滤与合成增强。

![挖挖GitHub](https://paooo.com/wp-content/uploads/2026/07/wawagithub-80.avif)

微信关注回复“**开源**”，加入**AI开源项目交流群**

## 如何使用Inkling

 * **在线体验**：访问 Inkling Playground（Tinker 控制台）https://tinker.thinkingmachines.
   ai/playground直接与模型交互，测试风格与能力。
 * **API 调用**：通过 Tinker 平台或第三方推理服务商接入 API，使用 `tml-renderers`
   包快速集成。
 * **本地部署**：从 Hugging Face 下载权重，使用 SGLang、vLLM、TokenSpeed、Unsloth
   或 Hugging Face 框架部署；BF16 需 2TB 显存，NVFP4 量化版需 600GB。
 * **微调定制**：在 Tinker 平台上传数据，编写微调任务并运行训练，可让模型参与自身
   迭代优化。
 * **推理强度调节**：通过 effort 参数控制生成 token 数量，匹配成本与性能需求。

## Inkling的核心优势

 * **高效推理曲线**：在 Terminal Bench 等测试中，用 Nemotron 3 Ultra 三分之一的 
   token 达到同等性能，显著降低长流程成本。
 * **均衡通才能力**：不针对单一领域过拟合，在智能体、编程、视觉、音频、指令遵循等
   维度同时保持竞争力。
 * **原生多模态**：音频与视觉组件从零开始训练，非后期拼接，语音与图像理解在开放权
   重模型中处于第一梯队。
 * **安全与可控**：内置 FORTRESS 安全防护，误拒率低；支持 Llama Guard 等下游审核
   工具叠加，形成纵深防御。

## Inkling的项目地址

 * **项目官网**：https://thinkingmachines.ai/news/introducing-inkling/
 * **HuggingFace模型库**：https://huggingface.co/thinkingmachines/Inkling
 * **技术论文**：https://thinkingmachines.ai/model-card/inkling/

## Inkling的同类竞品对比

  |  维度 |  Inkling |  [GLM 5.2](https://ai-bot.cn/glm-5-2/) |  
   |  **权重协议** |  Apache 2.0 |  开放权重 |  
 |  **多模态支持** |  文本 + 图像 + 音频（原生） |  文本 + 图像 |  
 |  **智能体编程** |  Terminal Bench 2.1: 63.8% |  Terminal Bench 2.1: 82.7% |  
 |  **视觉推理** |  MMMU Pro: 73.5% |  MMMU Pro: 60.0% |  
 |  **指令遵循** |  IFBench: 79.8% |  IFBench: 73.3% |  
 |  **安全对抗** |  FORTRESS: 78.0% |  FORTRESS: 71.3% |  
 |  **推理效率** |  支持 effort 参数调节，低 token 高性价比 |  固定推理模式 |

## Inkling的应用场景

 * **企业智能体中枢**：作为后台推理模型，驱动客服、数据分析、代码生成等多工具协作
   的智能体系统，通过微调适配企业内部工作流。
 * **多模态内容审核**：同步分析文本、图片与音频内容，用于社交平台、直播平台的高效
   合规审查与风险识别。
 * **交互式教育助手**：基于语音与视觉输入，为学生提供实时解题、图表讲解与编程辅导，
   支持百万 token 长教材上下文。
 * **低延迟编程助手**：在 effort 参数调低模式下，以极低延迟完成代码补全、终端命令
   生成与轻量 bug 修复，嵌入 IDE 插件。
 * **长文档法律/金融分析**：用百万 token 上下文，对合同、研报、财报进行跨页关联推理，
   提取关键条款与风险点。

🧭 文中关联 [AI 工具](https://ai.paooo.com/)官网与参数卡（语宙 AI 导航）

**LLaMA ↗**

Meta（Facebook）推出的AI大语言模型。

**LLaMA ↗**

在线AI大模型微调平台，零代码、可视化操作。

❓ 常见问题解答（FAQ）

Inkling 是什么模型？

Inkling 是 Thinking Machines Lab 推出的开放权重多模态基础模型，原生支持文本、图像
与音频输入，采用混合专家架构，并可通过 Tinker 平台下载权重、微调和部署。

Inkling 适合做哪些应用？

它适合企业智能体中枢、多模态内容审核、交互式教育助手、低延迟编程助手，以及长文档
法律/金融分析等需要跨模态理解和长上下文处理的场景。

Inkling 的核心优势是什么？

核心优势是原生多模态、百万 token 上下文、可调 effort 推理和开放权重微调能力；同时
在 Terminal Bench 等测试中表现出较高的 token 效率，适合嵌入复杂工作流。

🔬 语宙深潜追问 · 进阶实操拆解

百万上下文真的都能有效利用吗？

不一定，长上下文只是容量，不代表模型会自动抓住关键信息。实际要靠检索、分段摘要和
任务提示设计，把长文本压缩成可操作的决策信号。

可调 effort 推理适合哪些场景？

适合任务复杂度波动大的场景，比如代码分析、长文理解和多模态推理。简单任务用低 effort
降成本，复杂任务再提高推理强度，能更好平衡速度与效果。

🗳️ 读者观点微投票 · 您的实战立场是？

百万上下文模型，最值钱的是效率还是通才？

🕸️ 语宙向量知识图谱 · 语义强关联深度内链

[🐋 所属权威专题：DeepSeek 深度实战与部署 →](https://paooo.com/topics/deepseek/)

 * [穆拉蒂重磅回归：思维机器实验室发布首款多模态开源模型 Inkling](https://paooo.com/aigc-news/30979/)
 * [前OpenAI CTO穆拉蒂打造多模态Inkling模型登场，号称美国最强开源AI](https://paooo.com/aigc-news/30970/)
 * [Thinking Machines推出首个开源大模型Inkling，主打定制化对抗“一刀切”AI](https://paooo.com/aigc-news/30881/)
 * [美国大模型抄了DeepSeek作业：性能没赢、价格更贵，却精准卡住了美国企业的合规刚需](https://paooo.com/aigc-news/34863/)

[🏛️ Prompt 语宙研究院](https://paooo.com/author/paooo-research/) · Prompt 语宙研究院（
paooo.com Research）专注于前沿多模态大模型架构拆解、AI Agent 工作流评测、AIGC 提示
词工程（Prompt Engineering）与全球高增长 AI 生产力工具实测追踪，致力于为中文开发
者与创作者提供一手、可复现的深度技术洞察。

[📄 Markdown 纯净版](https://paooo.com/aigc-news/31056/?format=md)

💡 这篇内容对您有启发吗？

[📡 RSS 订阅](https://paooo.com/feed/)[✨ 提交 AI 工具 / 合作](https://paooo.com/submit-tool/)

**🚀 Prompt 语宙 AI 创作者生态：**探索 2,800+ 全球实用 AI 工具与高精度生图提示词
咒语库

[🧭 语宙 AI 导航 (ai.paooo.com)](https://ai.paooo.com/)[🎨 AI 生图 Prompt 库](https://paooo.com/ai-image-prompts/)
[📚 核心专题导航](https://paooo.com/topics/)[⚡ AIGC 早报生成器](https://paooo.com/mtool/)
