# xAI罕见起诉Grok用户：指控其滥用AI生成儿童性虐待图片视频，已封停超 5 万个违规账户

- Link: https://paooo.com/aigc-news/30907/
- Published: 2026-07-16T10:29:23+08:00
- Author: Prompt 语宙研究院

⚡ [Prompt](https://paooo.com/ai-image-prompts/) 语宙 AI 导读 · 30 秒核心看点

 * xAI首次主动起诉用户滥用Grok，案件指向AI生成儿童性虐待与色情深伪内容。
 * 诉状披露平台已暂停52222个账户、提交73604份报告，并促成至少244人被捕。
 * 该案显示生成式AI的内容安全治理正在收紧，平台风控与合规责任显著上升。

据路透社报道，马斯克旗下AI公司xAI向南 卡罗来纳州男子特里·哈伍德提起诉讼，指控其滥用
Grok生成儿童性虐待材料。哈伍德今年 2 月因涉嫌性剥削未成年人被捕，xAI指控他违反服务
条款，当地时间周二已向得克萨斯州一家联邦法院提交诉状。

上传普通人照片生成深度伪造色情内容

xAI在诉状中指控哈伍德将成年人和未成年人的普通照片上传至Grok，随后试图生成以照片人物
为对象的色情深度伪造内容，还被指制作未经成年人本人同意的色情图像。AI公司主动起诉
用户涉嫌利用AI生成色情内容的案例此前极为少见，这一案件具有标志性意义。xAI要求法院
判令哈伍德支付金额尚未确定的赔偿金，并永久禁止他使用Grok，诉状称”被告经过蓄意策划，
把原告的工具变成犯罪武器”。

Grok内容安全问题遭全球审视，已促成 244 人被捕

诉讼提交之际，xAI正因Grok的内容安全问题受到全球审视，外界指控Grok允许用户制作未经
当事人同意的色情深度伪造内容。xAI在诉状中披露，公司已在 2026 年暂停 52222 个账户，
向美国国家失踪与受虐儿童中心提交 73604 份报告，促成至少 244 人被捕。这一数据反映出
AI平台在内容安全治理上的力度正在加大，也凸显了AI生成内容被滥用的严峻现实。

📌 语宙知识库 · 技术背景与应用场景延伸

本文属于AI内容安全快讯，核心看点不在模型能力提升，而在平台治理与滥用追责。类似场景
包括文本、图像和视频生成工具的深伪审核、未成年人保护与违规账户封禁。与同类方案相比，
Grok事件更突出“平台主动起诉用户”的标志性意义，说明生成式AI的竞争已从功能扩展转向
安全、合规与风控能力的比拼。

🧭 文中关联 [AI 工具](https://ai.paooo.com/)官网与参数卡（语宙 AI 导航）

**Grok ↗**

马斯克旗下xAI推出的人工智能助手。

❓ 常见问题解答（FAQ）

xAI为什么起诉Grok用户？

xAI指控该用户滥用Grok生成儿童性虐待材料、色情深度伪造内容，并违反服务条款。公司要求
法院判赔并永久禁止其继续使用Grok。

Grok内容安全问题有哪些争议？

外界主要质疑Grok可能被用于制作未经当事人同意的色情深度伪造内容。xAI则披露已封停大量
账户并向相关机构提交报告，强调正在加强治理。

这起诉讼对AI平台意味着什么？

它表明生成式AI平台可能不再只做被动封禁，而会主动追责滥用者。对同类产品而言，内容
审核、滥用检测和合规留痕将成为核心能力。

🔬 语宙深潜追问 · 进阶实操拆解

平台如何建立可执行的内容风控闭环？

要把预防、检测、处置、留痕串起来：前置拦截高风险提示词，生成后做多模态审核，命中
后冻结账号并保全证据，同时建立分级申诉和执法协作通道。

如何平衡误伤正常创作者与打击恶意滥用？

关键是分层治理：对高危内容零容忍，对灰区内容提高人工复核比例，并用行为频次、历史
记录和风险评分决定处罚强度，避免一刀切伤及正常用户。

🗳️ 读者观点微投票 · 您的实战立场是？

生成式 AI 平台该不该直接起诉违规用户？

🕸️ 语宙向量知识图谱 · 语义强关联深度内链

[🐋 所属权威专题：DeepSeek 深度实战与部署 →](https://paooo.com/topics/deepseek/)

 * [xAI罕见挥拳：起诉滥用Grok造不雅图的用户，今年已封禁 52222 个账号](https://paooo.com/aigc-news/30873/)
 * [马斯克旗下xAI要求深伪色情案原告“实名起诉”，受害者怒斥：这是恐吓式施压](https://paooo.com/aigc-news/18517/)
 * [4.7万条违规内容被清、近4000账号封禁！网信办重拳治理AI假冒公众人物：从深度伪造换脸到第一人称虚假带货全链条打击与合规架构全景剖析](https://paooo.com/aigc-news/41624/)
 * [清理4.7万条违规内容、封禁3961个账号！网信办重拳斩断AI换脸带货黑产链：四大典型变现形态、平台合规连带责任与防伪技术全景深度剖析](https://paooo.com/aigc-news/41580/)

[🏛️ Prompt 语宙研究院](https://paooo.com/author/paooo-research/) · Prompt 语宙研究院（
paooo.com Research）专注于前沿多模态大模型架构拆解、AI Agent 工作流评测、AIGC 提示
词工程（Prompt Engineering）与全球高增长 AI 生产力工具实测追踪，致力于为中文开发
者与创作者提供一手、可复现的深度技术洞察。

[📄 Markdown 纯净版](https://paooo.com/aigc-news/30907/?format=md)

💡 这篇内容对您有启发吗？

[📡 RSS 订阅](https://paooo.com/feed/)[✨ 提交 AI 工具 / 合作](https://paooo.com/submit-tool/)

**🚀 Prompt 语宙 AI 创作者生态：**探索 2,800+ 全球实用 AI 工具与高精度生图提示词
咒语库

[🧭 语宙 AI 导航 (ai.paooo.com)](https://ai.paooo.com/)[🎨 AI 生图 Prompt 库](https://paooo.com/ai-image-prompts/)
[📚 核心专题导航](https://paooo.com/topics/)[⚡ AIGC 早报生成器](https://paooo.com/mtool/)