据彭博社报道,由经济学家埃里克·布林约尔松等人发起,包括 16 名诺贝尔奖得主在内的 200 多名学者和AI专家联合署名呼吁,社会应进一步研究AI可能造成的影响。联署者认为,AI在未来十年可能变得”强大得多”,必须引导其朝着有利于人类的方向发展。

变革规模将超越工业革命
联署声明指出,AI可能引发一场前所未有的经济变革,规模将超过工业革命,却会在短得多的时间内完成。AI有望提高生活水平,但也可能造成大规模岗位流失等风险,因此必须设置必要的保障措施,确保AI用于辅助劳动者,并让整个社会从中受益。
此次联署由布林约尔松、阿杰伊·阿格拉瓦尔、安东·科里内克和汤姆·坎宁安共同组织,联署者还包括最近入选美联储AI影响工作组的斯坦福大学经济学家查尔斯·I·琼斯,阵容之强凸显了学术界对AI影响的高度关注。
AI能力进步已超过科学界认知
就在此前,联合国AI独立科学小组也发布了首份报告,警告AI快速发展在创造巨大机遇的同时带来不容忽视的风险。报告指出,AI能力的进步速度已经超过科学界的认知,也超过各国政府调整政策的速度,面对高度自主的AI系统,目前可用的控制手段仍然很少。
两份报告相互呼应,传递出一个明确信号:政策制定者需要以科学证据为基础治理AI,在推动技术创新与防范系统性风险之间找到平衡,否则人类社会将面临应对不足的局面。
本文是关于AI治理的短快讯,重点不在某一具体模型,而在“如何让AI安全、可控、可受益于社会”。当前应用场景主要集中在办公自动化、决策辅助、科研分析与产业提效。与强调单点能力的模型发布稿不同,这类报道更关注风险治理、就业冲击和政策框架;相较于纯技术方案,核心差异在于先建立安全边界,再谈规模化落地。
这份AI联署主要警告什么?
核心警告是:AI在未来十年可能变得更强大,带来超越工业革命规模的经济变革,同时也可能引发大规模岗位流失等风险,因此必须提前建立保障措施与治理框架。
为什么说AI影响可能超过工业革命?
联署声明认为,AI带来的经济变革规模可能超过工业革命,但其发生时间会短得多,意味着社会、就业和政策体系都将面临更快、更集中的冲击。
政策制定者现在最该做什么?
最重要的是以科学证据为基础治理AI,在推动技术创新与防范系统性风险之间找到平衡,尽快完善对高度自主AI系统的控制、监管和社会保障措施。
AI治理最该优先管什么?
优先管高风险应用、数据来源、模型评测和责任归属,而不是一刀切限制所有创新。先把可审计、可追责、可回滚的机制建起来,治理才不会拖慢真正有价值的应用。
普通开发者能为AI安全做什么?
在产品层加入权限控制、日志审计、内容过滤和人工复核;在模型层做红队测试和滥用场景演练。哪怕资源有限,也能先把高风险功能做成默认受限。
