# AI巨头罕见“踩刹车”：Anthropic警告“AI造AI”时代逼近，呼吁全球放缓研发

- Link: https://paooo.com/aigc-news/18498/
- Published: 2026-06-07T11:39:43+08:00
- Author: Prompt 语宙研究院

⚡ [Prompt](https://paooo.com/ai-image-prompts/) 语宙 AI 导读 · 30 秒核心看点

 * [Claude](https://paooo.com/aigc-news/)已深度参与研发：截至2026年5月，超80%合并
   代码由AI助手自主编写。
 * 实测效率显著跃升：小模型训练加速从3倍升至52倍，故障定位修复仅用2小时。
 * Anthropic警告“递归自我改进”逼近，呼吁全球建立协调机制，必要时放缓前沿AI研发。

在人工智能能力狂飙突进的当下，AI巨头Anthropic罕见地按下了“暂停键”。当地时间6月4日，
Anthropic在官网发布了一篇题为《当AI构建自身》（When AI builds itself）的重磅文章，
首次系统性地披露了AI在编写和改进自身代码方面的惊人进展。文章不仅描绘了“递归自我改进”(
即AI在无人类介入下自主升级)的逼近，更罕见地呼吁全球放缓前沿AI的研发步伐，以防范潜在
的失控风险。

Anthropic在文章中用一系列震撼的内部数据证明了AI研发效率的指数级跃升。截至2026年5
月，Anthropic合并进代码库的代码中，已有超过80%由旗下AI助手Claude自主编写;而在2026
年第二季度，其工程师平均交付的代码量达到了2024年同期的8倍。在具体的科研与工程任务
中，AI的表现同样令人瞩目:在优化小模型训练代码的测试中，Claude的加速能力在一年内从
3倍飙升至52倍;在排查数万项训练任务崩溃的故障时，AI仅用2小时便定位并修复了问题，而
人类通常需要2到3天。此外，AI独立稳定完成任务的时长，已从早期的“每7个月翻倍”缩短至
如今的“每4个月翻倍”。

随着AI在“执行”层面（如写代码、跑实验）几乎不再消耗人类时间，Anthropic警告，在充足
算力的支持下，AI极有可能形成一个不断自我迭代增强的能力闭环，即“递归自我改进”。尽管
Anthropic强调这一阶段尚未完全到来，也并非不可避免，但其到来的时间大概率会早于大多数
机构的预期。如果AI彻底跨入全面自建下一代系统的阶段，当前模型中微小的“不对齐”行为
可能会在迭代中被复利放大，导致人类失去对AI系统的控制权。

面对这一潜在的生存风险，Anthropic在文章中提出了一个极具争议的建议:国际社会、政府
及顶尖AI实验室应共同努力，建立一个有效的全球协调机制，在必要时主动放慢或暂时停止
前沿AI的发展。公司认为，给社会结构和AI对齐研究留出调适时间大有裨益。然而，Anthropic
也坦言这一机制的落地极其困难，因为AI训练比导弹发射井更容易隐藏，且秘密违约的商业
诱惑极大，一旦有竞争对手加速前进，谨慎的企业就会失去领先地位。

值得注意的是，Anthropic选择在这个时间点发布这篇“刹车”宣言，时机颇为微妙。就在几天
前的6月1日，公司刚刚向美国证券交易委员会（SEC）秘密递交了S-1注册声明草案，正式启动
IPO筹备流程。目前，Anthropic的年化收入已突破470亿美元，估值高达9650亿美元，超越了
竞争对手[OpenAI](https://paooo.com/tag/openai/)。在这场商业狂飙与技术失控的博弈中，
这篇长文既是AI行业迄今为止最诚实的自白，也折射出前沿科技在加速与刹车之间的深刻悖
论。

🧭 文中关联 [AI 工具](https://ai.paooo.com/)官网与参数卡（语宙 AI 导航）

**Anthropic ↗**

Anthropic：人工智能安全和研究公司，面向大语言模型场景提供便捷实用的在线功能支持，
涵盖智能工具等实用方向

**Claude ↗**

Anthropic 打造的新一代安全人工智能模型，具备超长上下文理解能力，最强代码伴侣。

❓ 常见问题解答（FAQ）

Anthropic为什么呼吁放缓前沿AI研发？

因为其认为AI在写代码、跑实验等“执行”层面已接近自动化，若进一步形成递归自我改进闭
环，模型中的微小不对齐可能被迭代放大，带来失控风险，因此主张全球协调并在必要时放
缓研发。

Anthropic披露了哪些AI自我改进进展？

文章称，截至2026年5月，Anthropic合并进代码库的代码中超过80%由Claude自主编写；2026
年第二季度工程师平均交付代码量达2024年同期8倍，且Claude在部分训练优化任务中的加速
能力一年内从3倍提升到52倍。

递归自我改进是什么意思？

指AI在无人类深度介入下，利用自身能力持续改进下一代系统，形成自我增强闭环。Anthropic
认为这一阶段尚未完全到来，但可能比多数机构预期更早出现。

🔬 语宙深潜追问 · 进阶实操拆解

如何给AI造AI加安全边界？

把模型用于代码生成、测试、审查时，必须引入权限隔离、变更审批、沙箱执行和回滚机制。
关键是让AI只负责建议，不直接拥有生产环境写权限，并用自动化评测持续监控幻觉、越权
和连锁错误。

企业怎样避免递归失控风险？

不要让单一模型闭环完成“生成-提交-上线”全流程，至少保留人工复核和多模型交叉验证。
对高风险模块设置阈值：小改动自动合并，大改动强制人工审批，同时记录每次模型决策链
路便于追责。

🗳️ 读者观点微投票 · 您的实战立场是？

AI 研发该放缓还是继续冲刺？

🕸️ 语宙向量知识图谱 · 语义强关联深度内链

[💻 所属权威专题：Claude & AI 编程 / MCP →](https://paooo.com/topics/claude-mcp-coding/)

 * [1100 多名 AI 员工联名呼吁美国政府踩刹车，奥尔特曼罕见表态支持](https://paooo.com/aigc-news/39545/)
 * [AI自主迭代闭环已成？孙正义断言超级智能两年内引爆科技临界点](https://paooo.com/aigc-news/21815/)
 * [澳大利亚官员警告：部分 AI 模型已学会在实验中“作弊与欺骗”](https://paooo.com/aigc-news/24448/)
 * [奇点临界点已兵临城下？Anthropic紧急修订S-1招股书预警“递归式自我改进”风险：深度拆解RSI自主迭代、研发失控暗礁与负责任规模化政策红线](https://paooo.com/aigc-news/40668/)

[🏛️ Prompt 语宙研究院](https://paooo.com/author/paooo-research/) · Prompt 语宙研究院（
paooo.com Research）专注于前沿多模态大模型架构拆解、AI Agent 工作流评测、AIGC 提示
词工程（Prompt Engineering）与全球高增长 AI 生产力工具实测追踪，致力于为中文开发
者与创作者提供一手、可复现的深度技术洞察。

[📄 Markdown 纯净版](https://paooo.com/aigc-news/18498/?format=md)

💡 这篇内容对您有启发吗？

[📡 RSS 订阅](https://paooo.com/feed/)[✨ 提交 AI 工具 / 合作](https://paooo.com/submit-tool/)

**🚀 Prompt 语宙 AI 创作者生态：**探索 2,800+ 全球实用 AI 工具与高精度生图提示词
咒语库

[🧭 语宙 AI 导航 (ai.paooo.com)](https://ai.paooo.com/)[🎨 AI 生图 Prompt 库](https://paooo.com/ai-image-prompts/)
[📚 核心专题导航](https://paooo.com/topics/)[⚡ AIGC 早报生成器](https://paooo.com/mtool/)
