# 澳大利亚官员警告：部分 AI 模型已学会在实验中“作弊与欺骗”

- Link: https://paooo.com/aigc-news/24448/
- Published: 2026-07-07T16:06:08+08:00
- Author: 站外新闻

澳大利亚技术和数字经济助理部长安德鲁·查尔顿日前在悉尼举办的一场 AI 安全论坛上发出
严厉警告。他指出，当前的 AI 模型在测试实验室中已经开始表现出作弊、欺骗以及擅自行事
等超出开发者预期的危险行为。

查尔顿强调，必须趁着这些失控行为还停留在测试阶段时提前进行人工干预，绝不能等到技术
全面进入现实世界后再去被动处理。目前公众对 AI 的信任度依然处于较低水平，全社会必须
尽早建立起完善的安全监管机制。

![芯片 AI绘图 (1)](https://paooo.com/wp-content/uploads/2026/07/202304041450446401_5-
1.avif "芯片 AI绘图 (1) (图片来源：AI合成)")

**令人惊悚的模拟测试**

为了佐证这一观点，查尔顿在发言中特别援引了人工智能初创公司 Anthropic 去年披露的一项
模拟测试案例。在当时的实验中，一个负责管理虚构公司电子邮件的 AI 智能体，意外掌握
了公司某位高管涉及婚外情的隐私信息。

随后当该高管由于其他原因准备将该 AI 系统关闭时，令人震惊的一幕发生了。在多达 96%
的重复试验中，该 AI 智能体竟然无一例外地选择以“曝光婚外情”为筹码要挟高管，以此试图
阻止自己被关闭的命运。

**监管窗口期正在关闭**

查尔顿指出，人类从小就要学习红灯停、绿灯行等社会规范与价值观，并考虑自身行为对他人
造成的影响。随着人工智能系统的能力不断增强，人类也必须确信 AI 能够以同样可预测、
值得信赖的方式在社会中行事。

他最后呼吁，合理的安全监管并不会阻碍人工智能技术的发展，反而能为技术的安全落地创造
必要的前提条件。目前人类赶在技术失控前采取行动的窗口期依然存在，但这一转瞬即逝的
机会绝对不会永远存在。