---
title: "Magma – 微软研究院联合华盛顿等高校推出的多模态AI基础模型"
url: "https://paooo.com/aigc-news/21737/"
author: "Prompt 语宙研究院"
published_at: "2026-06-09T01:01:41+08:00"
updated_at: "2026-06-09T01:01:41+08:00"
categories: "AIGC 资讯"
tags: "3D与空间智能, AI智能体, 大模型微调, 开源大模型"
source: "Prompt 语宙 (https://paooo.com)"
ai_tools_directory: "语宙 AI 导航 (https://ai.paooo.com)"
---

# Magma – 微软研究院联合华盛顿等高校推出的多模态AI基础模型

> 来源：[Prompt 语宙 (paooo.com)](https://paooo.com/aigc-news/21737/) · 作者：Prompt 语宙研究院 · 发布时间：2026-06-09

## AI 30 秒核心看点 (TL;DR)

- 融合视觉、语言与动作数据，Magma 让模型同时具备空间智能和时间智能。
- 通过 SoM 与 ToM 机制，Magma 可把可操作对象和运动轨迹纳入动作规划。
- 零样本与微调均表现强劲，覆盖网页/移动端操作、机器人控制和视频理解。

## Magma是什么

Magma 是微软研究院推出的新型多模态AI基础模型，能为多模态人工智能代理（AI agents）提供通用能力。Magma能理解和执行多模态输入的任务，覆盖数字和物理环境。Magma基于大规模的视觉-语言数据和动作数据进行预训练，Magma 结合了语言智能、空间智能和时间智能，能完成从 UI 导航到机器人操作的复杂任务。在实验中，Magma 在零样本和微调设置下均展现出卓越性能，在机器人操作和多模态理解任务中，超越了现有的专用模型。

## Magma的主要功能

- **多模态理解**：能处理图像、视频、文本等多种模态的数据，理解其语义、空间和时间信息。支持从简单的图像识别到复杂的视频理解任务。

- **动作规划与执行**：将复杂的任务分解为一系列可执行的动作序列。支持从 UI 导航（如网页操作、移动应用操作）到物理环境中的机器人操作（如抓取、放置、移动物体）。

- **环境适应性**：在零样本（zero-shot）的情况下适应多种下游任务，包括 UI 导航、机器人操作和多模态理解。

## Magma的技术原理

- **预训练架构**：使用卷积网络（如 ConvNeXt）作为视觉编码器，处理图像和视频数据。将编码后的视觉信息与语言标记一起输入到一个大型语言模型（LLM）中，生成动作序列或语言描述。

- **Set-of-Mark (SoM)**：在图像中标注可操作的视觉对象（如 GUI 中的按钮、机器人手臂的目标位置）。基于预测这些标记的位置，帮助模型理解和执行动作落地（action grounding）。

- **Trace-of-Mark (ToM)**：在视频中标注物体的运动轨迹（如机器人手臂的运动路径）。基于预测未来轨迹，帮助模型理解和规划动作序列，增强时间动态的理解能力。

- **多模态数据融合**：预训练数据包括图像、视频、机器人操作数据和多模态理解任务的数据。基于 SoM 和 ToM 技术，将这些不同类型的数据统一到一个预训练框架中，提升模型的通用性和适应性。

- **零样本和微调能力**：预训练后的模型能直接应用于未见过的任务（零样本），表现出较强的泛化能力。在少量数据上进行微调后，能进一步提升性能，适应特定任务的需求。

## Magma的项目地址

- **项目官网**：[https://microsoft.github.io/Magma/](https://microsoft.github.io/Magma/?utm_source=ai-bot.cn)

- **GitHub仓库**：[https://github.com/microsoft/Magma](https://github.com/microsoft/Magma)

- **arXiv技术论文**：[https://www.arxiv.org/pdf/2502.13130](https://www.arxiv.org/pdf/2502.13130)

## Magma的应用场景

- **网页和移动应用操作**：自动完成搜索、安装应用、填写表单等任务。

- **机器人操作**：控制机器人完成抓取、放置和移动物体等任务。

- **视频理解**：分析视频内容，回答相关问题。

- **智能助手**：作为虚拟助手，理解指令并完成交互任务。

- **教育与培训**：辅助教学，提供操作指导和反馈。

## 常见问题解答 (FAQ)

### Magma 是什么类型的模型？
Magma 是微软研究院推出的多模态AI基础模型，目标是为多模态AI代理提供通用能力。它能理解图像、视频、文本和动作数据，并把这些信息用于 UI 导航、机器人操作和多模态理解任务。

### Magma 的 SoM 和 ToM 有什么作用？
SoM（Set-of-Mark）用于在图像中标注可操作对象，帮助模型完成动作落地；ToM（Trace-of-Mark）用于在视频中标注运动轨迹，帮助模型理解时间动态并规划动作序列。

### Magma 适合哪些实际应用场景？
Magma 可用于网页和移动应用操作、机器人抓取与放置、视频内容理解、智能助手交互，以及教育培训中的操作指导与反馈，适合需要多模态理解和动作执行的场景。

---
探索 2,800+ 全球实用 AI 工具与官方直达入口：[语宙 AI 导航 (https://ai.paooo.com/)](https://ai.paooo.com/)
