---
title: "Goku – 港大和字节联合推出的最新视频生成模型"
url: "https://paooo.com/aigc-news/22107/"
author: "Prompt 语宙研究院"
published_at: "2026-06-08T22:59:51+08:00"
updated_at: "2026-06-08T22:59:51+08:00"
categories: "AIGC 资讯"
tags: "AI视频生成, HuggingFace, Sora, 大模型微调, 开源大模型"
source: "Prompt 语宙 (https://paooo.com)"
ai_tools_directory: "语宙 AI 导航 (https://ai.paooo.com)"
---

# Goku – 港大和字节联合推出的最新视频生成模型

> 来源：[Prompt 语宙 (paooo.com)](https://paooo.com/aigc-news/22107/) · 作者：Prompt 语宙研究院 · 发布时间：2026-06-08

## AI 30 秒核心看点 (TL;DR)

- 港大×字节联合发布Goku，采用Rectified Flow Transformer与3D联合VAE，统一处理图像和视频生成。
- Goku+主打广告视频创作，可生成20秒以上内容，支持产品图转视频与虚拟数字人互动。
- 项目强调大规模数据与高效训练，约3600万视频、1.6亿图像支撑高质量输出与稳定训练。

## Goku是什么

Goku是香港大学和字节跳动联合发布的最新[视频生成](https://ai-bot.cn/ai-video-generation-tools/)模型，专为图像和视频的联合生成设计。基于先进的rectified flow Transformer框架，支持[文生视频](https://ai-bot.cn/ai-text-to-video-tools/)、图生视频及文生图等多种模式。Goku的核心优势包括高质量的视频生成能力、极低的广告视频制作成本（比传统方法低100倍）。Goku基于大规模高质量的数据集和高效的训练设施。研究人员构建了包含约3600万视频和1.6亿图像的数据集，采用多模态大语言模型生成语境一致的框架。Goku采用了先进的并行策略和容错机制，确保训练过程的高效性和稳定性。

Goku+是基于Goku模型推出的扩展版本，专注于广告视频创作，能快速生成高质量的广告视频，支持20秒以上的视频生成，具备稳定的手部动作和丰富的面部及身体表情。Goku+可将产品图片转化为吸引人的视频，支持虚拟数字人与产品互动，增强广告吸引力。适用于电商、品牌宣传、短视频广告和产品展示等多种场景，能显著降低广告制作成本，提升创作效率。

## Goku的主要功能

- **文本到图像（Text-to-Image）：**根据文本描述生成高质量图像，能生成细节丰富且与文本描述高度一致的图像。

- **文本到视频（Text-to-Video）**：根据文本描述生成连贯的视频，生成的视频具有流畅的动作和高质量的画面。

- **图像到视频（Image-to-Video）**：以图像为基础生成视频，保持图像的视觉风格和语义一致性，能从静态图像生成动态视频，适用于动画和视频内容创作。

- **广告视频生成（Goku+）**：生成高质量的广告视频，支持人物与产品的自然互动。可以将广告视频的制作成本降低100倍，生成的视频具有稳定的手部动作和丰富的面部表情。

- **虚拟数字人视频生成**：生成虚拟数字人的视频，具有高度的逼真感和自然的动作，适用于虚拟主播、虚拟客服等场景。

- **多模态生成**：支持多种模态的生成任务，包括图像、视频和文本的联合生成。通过共享潜在空间和全注意力机制，Goku能无缝处理图像和视频的复杂时空依赖关系。

## Goku的技术原理

- **图像-视频联合VAE**：Goku采用3D联合图像-视频变分自编码器（VAE），将图像和视频输入压缩到共享的潜在空间。使模型能处理多种媒体格式，包括图像和视频，在统一框架内进行表示。

- **Transformer架构**：Goku模型家族包含2B和8B参数的Transformer架构。架构基于全注意力机制，能有效处理图像和视频的复杂时空依赖关系，实现高质量、连贯的输出。

- **校正流公式**：基于Rectified Flow（RF）算法，Goku通过线性插值在先验分布和目标数据分布之间进行训练。相比传统的扩散模型，展现出更快的收敛速度和更强的理论性质。

- **多阶段训练策略**：Goku采用多阶段训练策略，包括图文语义对齐预训练、图像-视频联合训练，以及针对不同模态的微调。逐步提升模型的生成能力，确保在大规模数据集上的高效训练。

- **大规模高质量数据集**：研究人员构建了约3600万视频和1.6亿图像的大规模数据集，采用多种数据过滤和增强技术来提高数据质量。数据集为模型训练提供了丰富的素材。

- **高效的训练基础设施**：Goku的训练基础设施包括并行策略、细粒度激活检查点技术、容错机制以及ByteCheckpoint技术。显著提升了训练效率和稳定性。

## Goku的项目地址

- **项目官网**：[https://saiyan-world.github.io/goku/](https://saiyan-world.github.io/goku/?utm_source=ai-bot.cn)

- **Github仓库**：[https://github.com/Saiyan-World/goku](https://github.com/Saiyan-World/goku)

- **HuggingFace模型库**：[https://huggingface.co/datasets/saiyan-world/Goku](https://huggingface.co/datasets/saiyan-world/Goku-MovieGenBench)

- **arXiv技术论文**：[https://arxiv.org/pdf/2502.04896](https://arxiv.org/pdf/2502.04896)

## Goku的应用场景

- **广告视频制作**：Goku+能根据文本描述生成高质量的广告视频，支持从文本直接生成视频、从产品图片生成人物互动视频，以及生成产品展示视频。

- **虚拟数字人视频生成**：Goku+可以将文本转换为超现实的人类视频，生成超过20秒的视频，具有稳定的手部动作和极具表现力的面部及身体动作。

- **内容创作**：Goku能生成包括动画、自然风光、动物行为等多种场景的视频。可以生成一位时尚女性在东京街头漫步的视频，或者数只巨型猛犸象在雪地上行走的场景。为艺术创作者提供了丰富的灵感和创作素材。

- **教育与培训**：Goku可以用于制作教育视频和培训课程，通过生成生动的视频内容，提高教育培训的效果和趣味性。

- **娱乐产业**：在电影、电视剧、动画等娱乐产业中，Goku可用于内容制作和特效生成。能生成高质量的视频内容，为创作者提供更多可能性。

## 常见问题解答 (FAQ)

### Goku支持哪些视频生成模式？
Goku支持文生视频、图生视频、文生图等多种模式，并可在统一框架下处理图像与视频的联合生成，适合内容创作、广告制作和多模态生成任务。

### Goku+适合做什么广告场景？
Goku+主要面向广告视频创作，可将产品图片转化为视频，支持人物与产品自然互动、虚拟数字人展示，以及短视频广告和产品宣传等场景。

### Goku为什么被认为训练效率高？
文章提到Goku基于约3600万视频和1.6亿图像的大规模数据集，并采用并行策略、激活检查点和容错机制等训练基础设施，以提升效率和稳定性。

---
探索 2,800+ 全球实用 AI 工具与官方直达入口：[语宙 AI 导航 (https://ai.paooo.com/)](https://ai.paooo.com/)
