据《商业内幕》报道，来自OpenAI、Anthropic、谷歌和Meta等头部AI公司的 1100 多名员工联合签署公开信，呼吁美国政府控制AI发展速度。这一名为”把控前沿”的倡议，直指当前AI军备竞赛中安全保障与治理体系的严重滞后。公开信聚焦的核心议题是”自动化AI开发”——即未来AI能够自行开发和改进AI系统的”递归式自我改进”能力。Anthropic曾表示，其Claude系列模型正在快速接近这一门槛。信中警告，AI能力发展速度可能迅速加快，超出人类理解或控制这些系统的能力，呼吁美国政府支持国际合作，开发必要的技术和治理工具，有意识地把控自动化AI开发的前沿进程。
高管集体背书，奥尔特曼态度反转
签署这封公开信的阵容堪称AI行业”全明星”——Anthropic CEO达里奥·阿莫代伊及两位联合创始人、OpenAI首席科学家雅库布·帕霍茨基、Meta首席科学家赵晟佳，以及谷歌DeepMind AI安全与对齐工作负责人安卡·德拉甘悉数在列。OpenAI和Anthropic随后在X平台发文呼应，前者承认未来某个时间点前沿模型开发加速可能快到世界需要把控节奏，后者则引用上月发布的递归式自我改进研究，强调需要让社会有时间做好准备。
OpenAI CEO萨姆·奥尔特曼的态度反转尤为引人注目。他在接受《Invest Like the Best》播客采访时表示，或许现在是时候”把控”AI发展节奏，让社会适应新能力水平并建立防护机制。
但他同时强调，这一做法既不能让人感觉是监管俘获，也不能让人觉得是前沿实验室之间的串通。而就在 2023 年，面对一封提出类似”放缓AI发展”主张的公开信，奥尔特曼曾以”缺少关键技术细节”为由拒绝签署。从当年避签到如今公开支持，这一转变本身就折射出AI行业对安全风险的认知正在发生深刻变化。
