Prompt 语宙Prompt 语宙
  • 首页
  • 语宙 AI 导航
  • AIGC 资讯
    • AIGC 早报生成器Hot
    • 最新趋势
    • AI 工具
    • 热门资源
    • 强化 AI 学习
  • AI 绘图
    • Prompt 实战
    • AI 绘画教程
    • 模型精选
  • AI 图库
    • 人物
    • 展台场景
    • Banner
    • 游戏
    • 动物
    • 食物
    • 自然
    • 背景
    • 海报
    • 建筑
    • 室内设计
  • 出海数字营销宝典
  • AI 生图 Prompt
    • 写实人像
    • 产品与广告
    • 游戏资产与 3D
    • 界面与图标
    • 建筑与室内
    • 动漫与插画
    • 风景与自然
搜索 AIGC 资讯、Prompt 咒语与 AI 工具
  • 语宙 AI 导航
  • 全部资讯
  • AI 生图咒语库
  • AIGC 早报生成器
  • 核心专题
  • 提交工具 / 合作
© 2023–2026 Prompt 语宙 (paooo.com). HalfPX. All Rights Reserved.
阅读: AI 论战的荒谬(并且,不,AI 不会在类似于计算机般的时间尺度上进行递归自我完善) [译]
Share
通知 阅读更多
Font Resizer字体
Font Resizer字体
Prompt 语宙Prompt 语宙
搜索 AIGC 资讯、Prompt 咒语与 AI 工具
  • 首页
  • 语宙 AI 导航
  • AIGC 资讯
    • AIGC 早报生成器Hot
    • 最新趋势
    • AI 工具
    • 热门资源
    • 强化 AI 学习
  • AI 绘图
    • Prompt 实战
    • AI 绘画教程
    • 模型精选
  • AI 图库
    • 人物
    • 展台场景
    • Banner
    • 游戏
    • 动物
    • 食物
    • 自然
    • 背景
    • 海报
    • 建筑
    • 室内设计
  • 出海数字营销宝典
  • AI 生图 Prompt
    • 写实人像
    • 产品与广告
    • 游戏资产与 3D
    • 界面与图标
    • 建筑与室内
    • 动漫与插画
    • 风景与自然
已有帐户? 登陆
  • 语宙 AI 导航
  • 全部资讯
  • AI 生图咒语库
  • AIGC 早报生成器
  • 核心专题
  • 提交工具 / 合作
© 2023–2026 Prompt 语宙 (paooo.com). HalfPX. All Rights Reserved.
AI 论战的荒谬(并且,不,AI 不会在类似于计算机般的时间尺度上进行递归自我完善) [译]
Prompt 语宙 > 强化 AI 学习 > AI 论战的荒谬(并且,不,AI 不会在类似于计算机般的时间尺度上进行递归自我完善) [译]
强化 AI 学习

AI 论战的荒谬(并且,不,AI 不会在类似于计算机般的时间尺度上进行递归自我完善) [译]

宝玉的分享
最近更新: 2026年5月23日 下午6:28
AI智能体 ChatGPT OpenAI 大模型微调
SHARE
⚡ Prompt 语宙 AI 导读 · 30 秒核心看点
  • 批判“预测下一个词=理解”的跳跃推理,指出 LLM 只是高效统计生成,并无充分证据证明其具备语义理解。
  • 反驳“AI 会自动自我改进并迅速递归升级”的论点,认为这更像逻辑循环与人类投射。
  • 文章核心结论:AI 可能很强,但强大能力不自动推出意识、理解或必然的超级智能路径。

(一台黄油机器人突然意识到它存在的唯一目的是传递黄油。)

AI 论战的荒谬(并且,不,AI 不会在类似于计算机般的时间尺度上进行递归自我完善) [译]

在那个人们普遍认为“自动驾驶汽车还有半年就能面市”的美好时光里,你可能遇到过这样的论点:“如果自动驾驶汽车能够运行,那么它们将比人驾驶的汽车更安全。”这听起来没错。但如果你所说的“它们能够运行”是指它们在包括安全性在内的多方面都优于人类驾驶的汽车,那么,果然,如果它们能运行,它们就会比人类驾驶的汽车更安全。这其实是一种逻辑上的循环论证。不幸的是,技术界充满了这类诡辩,尤其是在 AI 领域。

案例 #1

在纽约客杂志最近的一期中,被誉为“AI 教父”的杰弗里·辛顿在一篇发布在3 Quarks Daily的文章中对 Joshua Rothman 说:

“‘有人说,[像 ChatGPT 这样的] 大语言模型 (Large Language Models) 不过是高级的自动填充……让我们分析一下……假设你想成为预测下一个词的高手。要做到这一点,你必须理解所说的内容,这是唯一的途径。所以,训练一个系统变得擅长预测下一个词,实际上是在迫使它去理解。的确,它是‘自动填充’——但你可能没有深入思考,一个优秀的自动填充真正意味着什么。’辛顿认为,像 GPT 这样的‘大语言模型’,它是 OpenAI 聊天机器人的核心,能够理解单词和思想的含义。”

这篇文章充斥着糟糕的推理。然而,在我们深入探讨之前,我不得不指出,有人认为仅凭计算句子中下一个词出现的概率的算法就“能理解单词和观念的含义”,这实在是对其他内容的极端误解(公平地说,Rothman 是将这种观点归因于 Hinton 的,但并未引用 Hinton 的原话,所以这可能并非 Rothman 真正的观点。但看起来似乎是这样。)

Hinton 表示,通过训练一个系统在预测句子中下一个单词方面变得高效,实际上是在迫使它去理解。但并无充分证据支持这样一种说法:即预测句子中下一个单词的唯一方法就是理解所表达的内容。大语言模型 (LLMs) 正是证明了这一点,而非推翻它。此外,根据以往的经验,情况恰恰相反。计算器并非因为“理解”数字而胜于大多数人,而是因为它们在数学计算上的高效性。

Hinton 真的暗示没有任何感官体验或身体,就可以完全理解人类语言吗?仅凭对某个单词出现的可能性的理解(考虑到它通常在哪里、多么频繁地被使用),一个生成句子的程序能够“理解”红色或悲伤吗?事实上,一个聊天机器人如何能够仅通过预测它自己接下来要说的话来“表达”某些东西呢?顺便说一下,根据大多数关于引用的理论,这些话毕竟是在字面上什么都不指的,因为在这些情况下,它们所使用的语言不可能指向任何东西。

我们可以说,智能可以以多种方式实现,正如功能主义者所主张的那样,或者不同但合适的潜在准心理过程可能导致类似心理的结果,但这里并没有什么神秘之处。虽然我们可能不知道大语言模型 (LLM) 在某个特定时刻在做什么,但我们大致了解正在发生的事情。我们没有理由相信这一过程能产生理解,无论聊天机器人的功能有多强大,或者它处理了多少数据。

陈列品 #2

当我最近读到一篇名为“AI Will Not Want to Self-Improve”的文章时,我觉得找到了一个志同道合的作者,他是 Peter Salib。我认为,目前 AI 想要某些东西的可能性不大,但我赞同你的观点,即 AI 达到人类智能水平时不会自动进化成超级智能。然后我读了这篇论文。这是它的结论。

“AI 自我改进不像当前那些认为 AI 对人类构成存在性风险的人所设想的那么可能。具有讽刺意味的是,他们的论证太有说服力了。他们充分说明,高能力 AI 对于可能创造它的人类是一个严重威胁。但同样,这些论证也足以表明,高能力 AI 对可能创造它的 AI 同样构成严重威胁……AI 有充分的理由不进行自我改进,它们甚至可能集体抵制这一过程。这些发现应该指导我们未来在促进 AI 安全的不同策略上的投资分配。”

因此,我们可以继续发展比我们更智能的 AI,因为既然它比我们更智能,它就不会去开发比自己更聪明的 AI,这鉴于这些论点,是非常不明智的行为。尽管如此,即使我们听到了这些论点,也没有停止发展比我们更智能的 AI,即使我们认为这可能导致非常糟糕的后果。

(坦白说,Salib 是一名律师,而不是程序员或类似的专业人士。而我是一名哲学家,不是计算机科学家。所以,请将这一点考虑在内。)

案例 #3

以下是我之前讨论过的论点,它是许多关于 AI 构成所谓存在性威胁的讨论的基础。

(1) 无论我们制造了怎样的智能型 AI,赋予它什么目标,它都会寻求自我提升。为了提升自己,(2) 它将重新设计自己以变得更加智能,(3) 增加更多存储容量等。(4) 它会不断重复这一过程 (5) 以电脑的时间速度,而不是人类的时间速度,直到 (6) 达到超级智能,(7) 最终奴役或消灭人类。

这一切都极其糟糕,不是那种好的“糟糕”就像僵尸电影那样的。

(1) Maciej Ceglowski,一位在人工智能领域拥有更多且更深入的见解的专家,认为这个观点——任何 AI 首先会自我改善——是“典型的美国式想法”。他质疑,为何 AI 会渴望自我提升?难道这不是人人皆有的追求吗?我们大部分时间不都在努力完善自己吗?这种想法实际上是一种自我投射和自欺欺人的混合体。

(2) AI 如何知道如何自我改进?再聪明的 AI,也并非无所不知、无所不能,尽管有些人可能这么认为。一个聪明的 AI 可能连计算机或大语言模型(LLM)是怎样工作的都不清楚。许多聪明的人类也对此知之甚少。它当然可以学习,但不可能在一瞬间或仅仅一个周末内做到。关于 AI 的讨论中存在一个技巧,就是根据需要将 AI 比作计算机(强调其学习速度)或人类(强调其创新和理解能力)。

这个 AI 是否拥有用于研究自我改进的实验室?还是仅仅通过思考就能实现自我改善?这是不是一种正念的体现?

我能仅凭思考就变得更聪明吗?看起来并不行。

过去人们是否仅凭逻辑推理就能制造出更先进的计算机?我们获取微波炉的方式也是这样的吗?(我特别关注微波炉。)

(3) 关于增加存储能力的问题,我们不禁要问,一个没有感官或肢体的 AI 如何不仅设计,还实际制造物品。它是通过说服人类为其制造吗?它如何与物理世界互动?顺带一提,它如何访问自己的思维?

(4) 它会不断重复这个过程。 看来,它永远不会感到满足。

(5) 暂且不论。尽管 AI 在电脑而非人类的时间尺度上操作,它还是得遵循自然法则。它无法像操作电脑那样迅速地凭空创造出新的物理基础设施。此外,没有物理基础设施的升级,它怎可能无限提升智能呢?

(6) 为什么有人笃信“超级智能”真的存在?为何认为智能没有极限,或者极限远远超出我们现在的水平?先不谈超级智能,你真的清楚智能究竟是什么吗? 或许,不论是人类还是机器,爱因斯坦或图灵已是我们所能达到的巅峰。

(7) 超级智能为何要灭绝我们?它为何不选择探索银河,或者解决我们的问题享受我们的赞美呢?

明确一点,我无法证明这种事情不会发生。我也无法证明宇宙不是五分钟前才被创造出来,伴随着大量似是而非的证据(比如你的记忆、化石等),让一切看起来更加古老。只是,我所看到的关于自我进化 AI 带来的生存威胁的推理,让其可能性似乎与宇宙的近期创造不相上下。我无法完全排除这种可能,但我并不为此担忧。

实际上,这种推理太过荒谬,以至于我难以相信提出这些论点的聪明人真的信以为真。那么,他们为何还要提出这些观点呢?这才是让我担忧的问题。

🧭 文中关联 AI 工具官网与参数卡(语宙 AI 导航)
ChatGPT ↗
OpenAI 研发的通用人工智能对话大模型,支持多模态交互与深度推理。
❓ 常见问题解答(FAQ)
大语言模型真的等于理解语言吗?

文章认为不能直接等同。仅凭预测下一个词的能力,不能证明模型理解了词义、观念或情感;它更像是在做高效的统计生成,而不是具有人类式语义理解。

AI 会像科幻里那样自动递归自我完善吗?

作者认为这并无充分证据。把“AI 会自我提升”当作必然前提,本身就接近循环论证;现实中,高能力 AI 是否会主动改造自己、持续加速升级,并没有被证明。

这篇文章对 AI 风险判断的核心观点是什么?

核心观点是:很多 AI 风险论证建立在未经证明的前提上,比如“模型会理解”“AI 会主动自我改进”。作者主张应区分能力、理解与动机,避免把推测当结论。

🔬 语宙深潜追问 · 进阶实操拆解
为什么“会自我完善”常被高估?

因为把“模型能改进某些任务”偷换成“系统能无限改进自身”。现实里,训练数据、算力、目标函数和评估机制都受人类约束,能力提升不等于具备自主递归升级的闭环。

如何识别 AI 论战中的诡辩?

重点看是否混淆理解与输出、相关性与因果、局部能力与整体智能。只要论证跳过了可验证证据,直接从“表现像”推到“本质是”,通常就该提高警惕。

🗳️ 读者观点微投票 · 您的实战立场是?
AI 会递归自我完善吗?
🕸️ 语宙向量知识图谱 · 语义强关联深度内链
⚡ 所属权威专题:OpenAI GPT 与 Sora 生态 →
  • 谷歌AI翻车!竟把’Google’拼错,大模型‘不识字’的硬伤藏不住了
  • 可解释语言模型:探索传统与创新方法 [译]
  • AI 并非你的职场竞争对手 [译]
  • 解锁 AI 的未来:主动推理与大语言模型的比较 —— 世界与文字 [译]
🏛️ 宝玉的分享 · 前沿大模型翻译与提示词工程实战分享专栏,聚焦海外一手 AI 技术动态与工程实践。
📄 Markdown 纯净版
💡 这篇内容对您有启发吗?
📡 RSS 订阅✨ 提交 AI 工具 / 合作
🚀 Prompt 语宙 AI 创作者生态:探索 2,800+ 全球实用 AI 工具与高精度生图提示词咒语库
🧭 语宙 AI 导航 (ai.paooo.com)🎨 AI 生图 Prompt 库📚 核心专题导航⚡ AIGC 早报生成器
[AI生图咒语] 日系夏季制服少女山顶车站跃起写实全景
Stripe洽购AI模型聚合平台OpenRouter,估值或从 13 亿飙升至 100 亿美元
GOT-OCR2.0 – 开源的端到端OCR模型,多语言多模态识别,多样化输入输出
任务提速3倍且成本狂降90%!OpenAI重磅发布高效执行型大模型GPT-6.1 Terra:双模态视觉推理、桌面端跨应用闭环与可调推理架构深度实测
阿里Qoder上线实时语音智能体Qoder Voice,支持语音驱动AI编程
TAGGED:AI智能体ChatGPTOpenAI大模型微调
分享
Email 复制链接 打印
Share
宝玉的分享 头像
By宝玉的分享
Follow:
前沿大模型翻译与提示词工程实战分享专栏,聚焦海外一手 AI 技术动态与工程实践。
上一篇 “无发明,无创新”:美国钢铁公司的历史 [译] “无发明,无创新”:美国钢铁公司的历史 [译]
下一篇 如何高效管理远程团队中的初级开发者 [译] 如何高效管理远程团队中的初级开发者 [译]
Ad image
Ad image

最近更新

WordPress 7.2版本更新与默认随机重定向、Secrets API撤回及MCP核心能力拆解封面图
官方博客竟把关闭过滤器写错了!WordPress 7.2前瞻全拆解:默认/random/暗藏隐私与SEO风险、Secrets API紧急撤回与3项MCP只读能力落地
AI 工具
Anthropic上市募资与算力长约的隐喻:现金光环上升,数据中心暗链延伸,治理水晶承受张力与阻力冲击。
募资超1070亿美元却背负9000亿算力长约!Anthropic史上最大IPO背后的三大隐忧:1040亿年内亏损、地方抵制潮与PBC治理死结
AIGC 资讯
微软Copilot与Claude/ChatGPT价格战隐喻:发光玻璃表格堡垒守住Excel,数据流高效汇聚,企业AI竞争升级
3000万付费仅吃下4.5亿席位不到7%!微软Ignite正面叫板Claude与ChatGPT:月均30美元VS 205美元价格战与Excel保卫战全拆解
AIGC 资讯
联想AI推理时代的端边云全栈算力插画:玻璃拟态服务器核心发光,光流连接云端与边缘节点,呈现营收与订单增长动能。
AI营收暴涨80%且握5300亿服务器订单!联想Q2单季营收首破2000亿、净利狂飙166%:端边云全栈算力如何接住推理时代红利?
AIGC 资讯

相关推荐

神珍科学多模态基础模型在沪亮相: 110 亿参数打通六类科学数据,一个模型读懂DNA到气象场
AIGC 资讯

神珍科学多模态基础模型在沪亮相: 110 亿参数打通六类科学数据,一个模型读懂DNA到气象场

Prompt 语宙研究院
3D与空间智能 AI智能体 开源大模型
Finedefics – 北大团队推出的细粒度多模态大模型
AIGC 资讯

Finedefics – 北大团队推出的细粒度多模态大模型

Prompt 语宙研究院
AI智能体 HuggingFace 大模型微调 开源大模型
Helper AI助手
AI 工具

Helper AI助手

remaker
AI办公效率 AI编程 ChatGPT OpenAI
支付宝“碰一下”将3000万线下触点升级为AI经营网络
AIGC 资讯

支付宝“碰一下”将3000万线下触点升级为AI经营网络

Prompt 语宙研究院
AI办公效率 AI智能体 AI编程
/ Prompt 语宙 /

探索生成式 AI 的无限创作潜能,一站式获取前沿 AIGC 资讯、高阶 Prompt 咒语与全球实用 AI 工具。

核心专栏

  • 语宙 AI 工具导航
  • EVA 视觉抠图工坊Hot
  • 出海数字营销宝典
  • AI 生图咒语灵感库
  • 24H 硅谷 AI 情报流

生态与服务

  • 语宙 AI 导航
  • 全部资讯
  • AI 生图咒语库
  • AIGC 早报生成器
  • 核心专题
  • 提交工具 / 合作

标签

开源大模型 AI智能体 AI办公效率 AI绘画提示词 OpenAI 大模型微调 Midjourney AI编程 stable diffusion AI视频生成 ChatGPT 3D与空间智能 HuggingFace AI音频与语音 RAG检索增强 Claude Flux AIGC Gemini 通义千问 Anthropic Llama Cursor DeepSeek Prompt AI Agent Kimi 智谱AI 具身智能 YouTube
Prompt 语宙Prompt 语宙
Follow US
© 2023–2026 Prompt 语宙 (paooo.com). HalfPX. All Rights Reserved.