---
title: "Inkling – Thinking Machines Lab 推出的多模态基础模型"
url: "https://paooo.com/aigc-news/31056/"
author: "Prompt 语宙研究院"
published_at: "2026-07-16T20:42:59+08:00"
updated_at: "2026-07-16T20:42:59+08:00"
categories: "AIGC 资讯"
tags: "AI智能体, AI编程, Llama, 大模型微调, 开源大模型"
source: "Prompt 语宙 (https://paooo.com)"
ai_tools_directory: "语宙 AI 导航 (https://ai.paooo.com)"
---

# Inkling – Thinking Machines Lab 推出的多模态基础模型

> 来源：[Prompt 语宙 (paooo.com)](https://paooo.com/aigc-news/31056/) · 作者：Prompt 语宙研究院 · 发布时间：2026-07-16

## AI 30 秒核心看点 (TL;DR)

- 原生多模态 + MoE 架构，支持文本、图像、音频统一推理，面向通才型工作流。
- 百万 token 上下文、effort 可调与开放权重微调，让它兼顾低延迟与高性能。
- 在 Terminal Bench 等测试中以更少 token 达到同级表现，适合企业智能体与长流程任务。

## Inkling是什么

Inkling 是 Thinking Machines Lab 推出的开放权重多模态基础模型。模型原生支持文本、图像与音频输入，采用混合专家架构，在 410 亿激活参数下实现跨模态推理，支持开发者通过 Tinker 平台下载权重、按需微调。与追求单项 benchmark 冠军的模型不同，Inkling 追求在智能体、编程、视觉、音频等广泛任务中保持均衡表现，成为可嵌入不同工作流的后台推理引擎。

## Inkling的主要功能

- 
**多模态原生理解**：同时处理文本、图像与音频输入，支持语音转写、视觉问答、图表推理及长音频分析。

- 
**智能体与工具调用**：内置多框架工具使用能力，可执行浏览器操作、代码生成、终端任务与多轮协作开发。

- 
**可控推理强度**：支持调节推理深度（effort 参数），在 token 成本与性能间灵活权衡，低延迟场景下仍保持高效。

- 
**超长上下文处理**：最高支持 100 万 token 上下文，适用于长文档分析、多轮对话与复杂工作流。

- 
**开放权重与微调**：完整权重通过 Hugging Face 开放，配合 Tinker 平台提供端到端微调与自训练能力。

## Inkling的技术原理

- 
**MoE 稀疏架构**：66 层解码器-only Transformer，256 位专家中每 token 激活 6 位专家 + 2 位共享专家，总参数 9750 亿、激活参数 410 亿。

- 
**无编码器多模态**：图像经 40×40 像素块通过四层 hMLP 编码，音频以 dMel 频谱图离散 token 输入，所有模态投影至共享隐空间统一解码。

- 
**混合注意力机制**：局部与全局注意力层交替，平衡长上下文记忆与计算效率。

- 
**量化部署**：支持 BF16、MXFP8 与 NVFP4 精度，NVFP4 量化后仅需 600GB 显存即可运行。

- 
**训练数据**：在 45 万亿 token 的文本、图像、音频与视频数据上预训练，数据经去重、过滤与合成增强。

微信关注回复“**开源**”，加入**AI开源项目交流群**

## 如何使用Inkling

- 
**在线体验**：访问 Inkling Playground（Tinker 控制台）https://tinker.thinkingmachines.ai/playground直接与模型交互，测试风格与能力。

- 
**API 调用**：通过 Tinker 平台或第三方推理服务商接入 API，使用 `tml-renderers` 包快速集成。

- 
**本地部署**：从 Hugging Face 下载权重，使用 SGLang、vLLM、TokenSpeed、Unsloth 或 Hugging Face 框架部署；BF16 需 2TB 显存，NVFP4 量化版需 600GB。

- 
**微调定制**：在 Tinker 平台上传数据，编写微调任务并运行训练，可让模型参与自身迭代优化。

- 
**推理强度调节**：通过 effort 参数控制生成 token 数量，匹配成本与性能需求。

## Inkling的核心优势

- 
**高效推理曲线**：在 Terminal Bench 等测试中，用 Nemotron 3 Ultra 三分之一的 token 达到同等性能，显著降低长流程成本。

- 
**均衡通才能力**：不针对单一领域过拟合，在智能体、编程、视觉、音频、指令遵循等维度同时保持竞争力。

- 
**原生多模态**：音频与视觉组件从零开始训练，非后期拼接，语音与图像理解在开放权重模型中处于第一梯队。

- 
**安全与可控**：内置 FORTRESS 安全防护，误拒率低；支持 Llama Guard 等下游审核工具叠加，形成纵深防御。

## Inkling的项目地址

- **项目官网**：https://thinkingmachines.ai/news/introducing-inkling/

- **HuggingFace模型库**：https://huggingface.co/thinkingmachines/Inkling

- **技术论文**：https://thinkingmachines.ai/model-card/inkling/

## Inkling的同类竞品对比

维度
Inkling
[GLM 5.2](https://ai-bot.cn/glm-5-2/)

**权重协议**
Apache 2.0
开放权重

**多模态支持**
文本 + 图像 + 音频（原生）
文本 + 图像

**智能体编程**
Terminal Bench 2.1: 63.8%
Terminal Bench 2.1: 82.7%

**视觉推理**
MMMU Pro: 73.5%
MMMU Pro: 60.0%

**指令遵循**
IFBench: 79.8%
IFBench: 73.3%

**安全对抗**
FORTRESS: 78.0%
FORTRESS: 71.3%

**推理效率**
支持 effort 参数调节，低 token 高性价比
固定推理模式

## Inkling的应用场景

- 
**企业智能体中枢**：作为后台推理模型，驱动客服、数据分析、代码生成等多工具协作的智能体系统，通过微调适配企业内部工作流。

- 
**多模态内容审核**：同步分析文本、图片与音频内容，用于社交平台、直播平台的高效合规审查与风险识别。

- 
**交互式教育助手**：基于语音与视觉输入，为学生提供实时解题、图表讲解与编程辅导，支持百万 token 长教材上下文。

- 
**低延迟编程助手**：在 effort 参数调低模式下，以极低延迟完成代码补全、终端命令生成与轻量 bug 修复，嵌入 IDE 插件。

- 
**长文档法律/金融分析**：用百万 token 上下文，对合同、研报、财报进行跨页关联推理，提取关键条款与风险点。

## 常见问题解答 (FAQ)

### Inkling 是什么模型？
Inkling 是 Thinking Machines Lab 推出的开放权重多模态基础模型，原生支持文本、图像与音频输入，采用混合专家架构，并可通过 Tinker 平台下载权重、微调和部署。

### Inkling 适合做哪些应用？
它适合企业智能体中枢、多模态内容审核、交互式教育助手、低延迟编程助手，以及长文档法律/金融分析等需要跨模态理解和长上下文处理的场景。

### Inkling 的核心优势是什么？
核心优势是原生多模态、百万 token 上下文、可调 effort 推理和开放权重微调能力；同时在 Terminal Bench 等测试中表现出较高的 token 效率，适合嵌入复杂工作流。

---
探索 2,800+ 全球实用 AI 工具与官方直达入口：[语宙 AI 导航 (https://ai.paooo.com/)](https://ai.paooo.com/)
