---
title: "xAI罕见起诉Grok用户：指控其滥用AI生成儿童性虐待图片视频，已封停超 5 万个违规账户"
url: "https://paooo.com/aigc-news/30907/"
author: "Prompt 语宙研究院"
published_at: "2026-07-16T10:29:23+08:00"
updated_at: "2026-07-16T10:29:23+08:00"
categories: "AIGC 资讯"
tags: "AI智能体, AI视频生成, AI音频与语音, Grok, 开源大模型"
source: "Prompt 语宙 (https://paooo.com)"
ai_tools_directory: "语宙 AI 导航 (https://ai.paooo.com)"
---

# xAI罕见起诉Grok用户：指控其滥用AI生成儿童性虐待图片视频，已封停超 5 万个违规账户

> 来源：[Prompt 语宙 (paooo.com)](https://paooo.com/aigc-news/30907/) · 作者：Prompt 语宙研究院 · 发布时间：2026-07-16

## AI 30 秒核心看点 (TL;DR)

- xAI首次主动起诉用户滥用Grok，案件指向AI生成儿童性虐待与色情深伪内容。
- 诉状披露平台已暂停52222个账户、提交73604份报告，并促成至少244人被捕。
- 该案显示生成式AI的内容安全治理正在收紧，平台风控与合规责任显著上升。

据路透社报道，马斯克旗下AI公司xAI向南 卡罗来纳州男子特里·哈伍德提起诉讼，指控其滥用Grok生成儿童性虐待材料。哈伍德今年 2 月因涉嫌性剥削未成年人被捕，xAI指控他违反服务条款，当地时间周二已向得克萨斯州一家联邦法院提交诉状。

上传普通人照片生成深度伪造色情内容

xAI在诉状中指控哈伍德将成年人和未成年人的普通照片上传至Grok，随后试图生成以照片人物为对象的色情深度伪造内容，还被指制作未经成年人本人同意的色情图像。AI公司主动起诉用户涉嫌利用AI生成色情内容的案例此前极为少见，这一案件具有标志性意义。xAI要求法院判令哈伍德支付金额尚未确定的赔偿金，并永久禁止他使用Grok，诉状称"被告经过蓄意策划，把原告的工具变成犯罪武器"。

Grok内容安全问题遭全球审视，已促成 244 人被捕

诉讼提交之际，xAI正因Grok的内容安全问题受到全球审视，外界指控Grok允许用户制作未经当事人同意的色情深度伪造内容。xAI在诉状中披露，公司已在 2026 年暂停 52222 个账户，向美国国家失踪与受虐儿童中心提交 73604 份报告，促成至少 244 人被捕。这一数据反映出AI平台在内容安全治理上的力度正在加大，也凸显了AI生成内容被滥用的严峻现实。

## 常见问题解答 (FAQ)

### xAI为什么起诉Grok用户？
xAI指控该用户滥用Grok生成儿童性虐待材料、色情深度伪造内容，并违反服务条款。公司要求法院判赔并永久禁止其继续使用Grok。

### Grok内容安全问题有哪些争议？
外界主要质疑Grok可能被用于制作未经当事人同意的色情深度伪造内容。xAI则披露已封停大量账户并向相关机构提交报告，强调正在加强治理。

### 这起诉讼对AI平台意味着什么？
它表明生成式AI平台可能不再只做被动封禁，而会主动追责滥用者。对同类产品而言，内容审核、滥用检测和合规留痕将成为核心能力。

---
探索 2,800+ 全球实用 AI 工具与官方直达入口：[语宙 AI 导航 (https://ai.paooo.com/)](https://ai.paooo.com/)