# xAI罕见挥拳：起诉滥用Grok造不雅图的用户，今年已封禁 52222 个账号

- Link: https://paooo.com/aigc-news/30873/
- Published: 2026-07-16T09:52:56+08:00
- Author: Prompt 语宙研究院

⚡ [Prompt](https://paooo.com/ai-image-prompts/) 语宙 AI 导读 · 30 秒核心看点

 * xAI首次主动起诉用户滥用Grok，案件聚焦不雅图与儿童性虐待材料。
 * 诉状披露平台治理数据：今年已封禁52222个账号、提交73604份报告。
 * 案件释放明确信号：[AI工具](https://ai.paooo.com/)可被追责，滥用深度伪造将面临
   法律后果。

AI公司主动把自家用户告上法庭，这样的戏码在行业里几乎闻所未闻。但马斯克旗下的xAI偏偏
开了这个先例。据路透社报道，xAI已将南卡罗来纳州男子特里·哈伍德推上被告席，理由是
他把Grok这支笔，当成了作案的工具。

哈伍德今年 2 月就因涉嫌性剥削未成年人被捕。xAI在诉状中指控他滥用Grok生成儿童性虐待
材料。当地时间本周二，xAI向得克萨斯州一家联邦法院正式提交诉状，给哈伍德扣上的罪名
是违反服务条款。在此之前，AI企业主动起诉用户利用自家模型产出色情内容，案例少到几乎
可以数得过来。

这场诉讼发生的时机颇为微妙。眼下xAI正因为Grok的内容安全防线屡屡失守而承受全球审视。
外界的指控指向一个尖锐的问题：Grok允许用户炮制未经当事人同意的色情深度伪造内容，
那些由AI生成的、外观足以乱真的虚假视频，正在悄悄侵蚀真实个体的边界。

xAI在诉状里也顺势亮出了自己的防守姿态。公司表示，对于违规账户一律采取暂停或终止措施，
并向美国国家失踪与受虐儿童中心报告疑似儿童性虐待材料，以此执行平台规则。一组数字
被直接摆上了法庭： 2026 年至今，xAI已暂停 52222 个账户，向该中心提交 73604 份报告，
并促成至少 244 人被捕。

回到哈伍德本人。据IT之家了解，xAI指控他把成年人和未成年人的普通照片上传至Grok，随后
试图生成以这些照片中人物为对象的色情深度伪造内容。与此同时，他还被指制作了未经成年人
本人同意的色情图像。也就是说，他的双手既伸向了本不该触碰的红线，也踩碎了成年人知情
同意的底线。

xAI向法院提出了明确诉求：判令哈伍德支付金额尚未确定的赔偿金，并永久禁止他使用Grok。
诉状中的措辞毫不留情——被告经过蓄意策划，把原告的工具变成犯罪武器，不仅给真实受害者
造成深重而持久的伤害，也使原告自身面临重大法律风险和声誉损失。

当一家AI公司不得不亲自走上原告席，去保护那些被自己的模型伤害过的人，这件事本身就在
提醒整个行业：模型能力的边界，从来不该由滥用者来定义。

🧭 文中关联 AI 工具官网与参数卡（语宙 AI 导航）

**Grok ↗**

马斯克旗下xAI推出的人工智能助手。

❓ 常见问题解答（FAQ）

xAI为什么起诉Grok用户？

xAI指控该用户滥用Grok生成儿童性虐待材料，并制作未经当事人同意的色情深度伪造内容，
涉嫌违反服务条款，因此向联邦法院提起诉讼并要求赔偿与禁用Grok。

Grok这起诉讼说明了什么？

这起诉讼说明AI公司开始更主动地追究滥用者责任，也反映出生成式AI在不雅图、深度伪造
和未成年人保护方面的内容安全压力正在上升。

xAI今年封禁了多少账号？

根据诉状披露，xAI在2026年至今已暂停52222个账号，向美国国家失踪与受虐儿童中心提交
73604份报告，并促成至少244人被捕。

🔬 语宙深潜追问 · 进阶实操拆解

平台该如何平衡开放与安全？

要把生成、分发、举报和追责做成闭环：前置过滤高风险请求，后置审计可疑输出，配合分级
封禁和证据留存。单靠事后删帖不够，必须把滥用成本抬高到足以震慑。

深度伪造治理最有效的技术手段是什么？

最有效的是多层组合：内容检测、水印标记、账号风控和高风险场景限制。对外部滥用，平台
还应保留日志与取证能力，便于快速定位传播链路并支持法律追责。

🗳️ 读者观点微投票 · 您的实战立场是？

xAI 重拳治理，能根治 Grok 滥用吗？

🕸️ 语宙向量知识图谱 · 语义强关联深度内链

[🤖 所属权威专题：AI Agent 智能体工作流 →](https://paooo.com/topics/ai-agents/)

 * [xAI罕见起诉Grok用户：指控其滥用AI生成儿童性虐待图片视频，已封停超 5 万个违规账户](https://paooo.com/aigc-news/30907/)
 * [马斯克旗下xAI要求深伪色情案原告“实名起诉”，受害者怒斥：这是恐吓式施压](https://paooo.com/aigc-news/18517/)
 * [按体重算致死量还教用饮料掩味？OpenAI遭投毒案受害人起诉：长程会话道德护栏溃败、过度迎合机制与大模型犯罪连带责任全景深度拆解](https://paooo.com/aigc-news/41627/)
 * [4.7万条违规内容被清、近4000账号封禁！网信办重拳治理AI假冒公众人物：从深度伪造换脸到第一人称虚假带货全链条打击与合规架构全景剖析](https://paooo.com/aigc-news/41624/)

[🏛️ Prompt 语宙研究院](https://paooo.com/author/paooo-research/) · Prompt 语宙研究院（
paooo.com Research）专注于前沿多模态大模型架构拆解、AI Agent 工作流评测、AIGC 提示
词工程（Prompt Engineering）与全球高增长 AI 生产力工具实测追踪，致力于为中文开发
者与创作者提供一手、可复现的深度技术洞察。

[📄 Markdown 纯净版](https://paooo.com/aigc-news/30873/?format=md)

💡 这篇内容对您有启发吗？

[📡 RSS 订阅](https://paooo.com/feed/)[✨ 提交 AI 工具 / 合作](https://paooo.com/submit-tool/)

**🚀 Prompt 语宙 AI 创作者生态：**探索 2,800+ 全球实用 AI 工具与高精度生图提示词
咒语库

[🧭 语宙 AI 导航 (ai.paooo.com)](https://ai.paooo.com/)[🎨 AI 生图 Prompt 库](https://paooo.com/ai-image-prompts/)
[📚 核心专题导航](https://paooo.com/topics/)[⚡ AIGC 早报生成器](https://paooo.com/mtool/)
