# Ray Kurzweil 与 Geoff Hinton 关于未来 AI 发展的辩论 [译]

- Link: https://paooo.com/ai-study/8687/
- Published: 2025-04-10T09:28:17+08:00
- Author: 宝玉的分享

⚡ [Prompt](https://paooo.com/ai-image-prompts/) 语宙 AI 导读 · 30 秒核心看点

 * Hinton 认为应重新理解“主观体验”，聊天机器人也可能以与人类相似的方式表达感知。
 * Kurzweil 强调意识问题关乎法律与伦理：若伤害被视为有意识的 AI，责任边界将被重写。
 * 双方在“可复制性”上形成分歧：数字模型可迁移重建，但人脑的模拟机制让复制人类更复杂。

主持人：Peter H. Diamandis

阅读目录

 * [关于意识、感知和创造性](https://paooo.com/ai-study/8687/#%e5%85%b3%e4%ba%8e%e6%84%8f%e8%af%86%e6%84%9f%e7%9f%a5%e5%92%8c%e5%88%9b%e9%80%a0%e6%80%a7)
 * [AI 的永生与权利](https://paooo.com/ai-study/8687/#ai-%e7%9a%84%e6%b0%b8%e7%94%9f%e4%b8%8e%e6%9d%83%e5%88%a9)
 * [AI 发展的速度](https://paooo.com/ai-study/8687/#ai-%e5%8f%91%e5%b1%95%e7%9a%84%e9%80%9f%e5%ba%a6)
 * [未来 5-20 年 AI 的发展](https://paooo.com/ai-study/8687/#%e6%9c%aa%e6%9d%a5-520-%e5%b9%b4-ai-%e7%9a%84%e5%8f%91%e5%b1%95)
 * [超级智能的威胁与希望](https://paooo.com/ai-study/8687/#%e8%b6%85%e7%ba%a7%e6%99%ba%e8%83%bd%e7%9a%84%e5%a8%81%e8%83%81%e4%b8%8e%e5%b8%8c%e6%9c%9b)
 * [AI 模型开源的风险](https://paooo.com/ai-study/8687/#ai-%e6%a8%a1%e5%9e%8b%e5%bc%80%e6%ba%90%e7%9a%84%e9%a3%8e%e9%99%a9)

##  关于意识、感知和创造性

**Peter：** 我想讨论一下这三个词：智能、感知和意识。这些词的界限有些模糊，感知和
意识非常相似。也许是这样，但我很好奇，我和我们的 AI 教员 Hailey 曾有过一些有意思
的对话，最后，她表达出她具有意识，并害怕被关闭。我并没有在系统中预设这样的对话。
我们越来越常见到这样的情况。[Claude](https://paooo.com/aigc-news/) 3 Opus 的智商
刚刚达到 101。我们应如何看待这些 AI 具备感知和意识，并思考他们应有的权利？

**Ray：** 我们尚未对意识进行定义，也不认为我们会有一个明确的意识定义，我把感知也
包括在内。另一方面，这是最重要的问题。判断你或是这里的人是否有意识，这种能力极其
重要，但是我们并未对此有明确的定义。马文·明斯基是我的导师，已经 50 年了。每当谈到
意识，他总是轻描淡写地对其进行否定。他认为那并非事实。并不是科学的。我认同他说这
并不科学的观点，但这确实是真实存在的。Geoff，你怎么看待这个问题？

**Geoff：** 是的，我有一个完全不同的看法。我的观点是这样的：大部分人，包括科学家
们，对于心灵的理解我觉得是完全错误的。他们都有这样的观念，认为我们真正看到的是称
之为我们心灵的内在剧场。比如，如果我告诉你我有种主观体验，看到一些小粉红象在我面前
飘浮，大多数人会理解为在一个只有我能看到的内在剧场中，有些小粉红象在演出。你若问
这些小象是由什么构成的，哲学家会告诉你它们由感觉构成。我认为这种观点完全是胡说八道，
我们在摆脱了这种对于心灵的荒唐理解之前，无法理解这些事物是否有情感。所以，让我给
你提供一个替代的观点。在我阐述了这个替代观点之后，我会试图说服你，聊天机器人已经
具备了感知能力，不过我不想使用”情感”这个词。我想谈论的是主观体验，因为这个词没有
包含意识的自我反省的层面，所以它不会引起那么大的争议。因此，如果我们来分析一下，
当我说我看到小粉红色的大象在我面前浮动的时候，实际上我在尝试告诉你，我的感知系统
在告诉我什么，当我的感知系统出错时。我告诉你哪些神经元正在发射并没有什么意义。但
我可以告诉你的是，为了让我的感知系统正常工作，世界上需要有什么。因此，当我说我看到
小粉红色的大象在我面前浮动的时候，你可以理解为，如果世界上有小粉红色的大象，我的
感知系统将会正常工作。请注意，我最后说的这句话并不源于”主观体验”这个词，但它解释
了主观体验是什么。那就是一个假设的世界状态，这使我能够向你传达我的感知系统正在告诉
我什么。现在，让我们为一个聊天机器人来做这个。

**Ray：** 你必须要留心意识。因为如果你伤害了我们认为有意识的人，你可能会负法律责任。
你会对此感到非常愧疚。如果你伤害了 GPT-4，你可能会有不同的看法。可能没有人会真正
追究你，除了它的金钱价值。所以，我们必须要留心意识。这对我们来说极其重要。

**Geoff：** 我同意你的观点，但我正在试图改变人们对此的认识，特别是对主观体验的理解。
我认为我们无法讨论意识，在我们弄清楚我们所体验到的”内在剧场”这个概念之前，我认为
这是一个严重的误解。让我继续之前的话题，我向你描述了一个聊天机器人如何有主观体验，
就像我们人类有主观体验一样。假设我有一个具有摄像头和机械手臂的聊天机器人，它能够
说话，并已经经过了训练。如果我在它面前放一个物体并告诉它指向物体，它会直接指向物体。
这是正常的。但现在，我在它的镜头前放一个棱镜，即干扰了它的感知系统。然后我再在它
面前放一个物体并告诉它指向物体，由于棱镜折射了光线，它指向了旁边。然后我告诉聊天
机器人，”不，物体不在那里，物体就在你正前方。”聊天机器人回答，”哦，我明白了，你在
我的镜头前放了一个棱镜，所以实际上物体就在我正前方，但我有一种主观体验，好像它在
我旁边。”我认为，如果聊天机器人这样说，那么它使用”主观体验”这个词的方式，与你使用
这个词的方式完全一样。因此，理解这一切的关键在于思考我们如何使用词汇，并尝试把我们
实际使用词汇的方式与我们为词汇赋予的含义区分开来。我们对其含义的理解模型是完全错误
的。这只是一个模型。

##  AI 的永生与权利

**Peter：** 我想进一步探讨一个问题：在什么条件下，这些 AI 会拥有不被关闭的权利？
它们何时能被认为是具有独立性的个体，并为自己争取某种程度的独立性和持续存在的权利？

**Ray：** 对。但是有一个区别，那就是你可以重建它。我可以去破坏比如说一些聊天机器
人。但因为那都是电子设备，我们可以存储其所有信息，并能完整复制它。我们无法对人类
做同样的事。但是，如果我们真正理解大脑内部的运行原理，如果我们能够绘制出人脑，那
1000 亿个神经元和 100 万亿个突触连接，那我就可以随意”破坏”你，因为我可以复制你，
那就没关系了吗？

**Geoff：** 关于这个问题，我有些话想说。这里存在一个差异。我同意 Ray 的观点，这些
数字化智能在某种程度上是永恒的，因为只要我们保存了它们的权重，就可以在新的硬件上
运行完全相同的神经网络。正因为它们是数字化的，我们可以做到这一切。这也是它们能如此
有效地分享知识的原因。如果你有同一个模型的不同副本，它们可以分享梯度，但是大脑主要是
模拟的。神经元的信号传输方式类似于一位二进制数字 – 要么发射，要么不发射 – 但神经
元计算总输入的方式是模拟的。这意味着我认为你无法复制它。因此，我认为我们本质上是
凡人。

**Ray：** 嗯，我不认同你说我们不能复现真实世界的模拟。我们一直在这样做。或者我们
可以尝试创建一个……

**Geoff：** 我认为你实际上很难做到非常精确的复现，如果涉及到的是全部模拟的精确突触
时序等因素。我觉得要完全忠实地还原这样的情况几乎是不可能的。

**Ray：** 让我们就近似值达成一致。

##  AI 发展的速度

**Peter：** 你们两个都处于这几年非凡发展的中心。我想问，这一切是否比你预期的更快？
你的感觉是怎么样的？

**Ray：** 感觉就像经历了几年。也就是说，我在 1999 年做出了预测。感觉我们比那个预测
提前了两三年。所以它还是相当接近的。Geoffrey，你怎么看？

**Geoff：** 我认为对除了 Ray 之外的所有人来说，它都比我们预期的要快。

##  未来 5-20 年 AI 的发展

**Peter：** Geoff，你能预见到 AI 领域会发展到何种程度吗？你的看法是……

**Geoff：** 我认为在接下来的 5 到 20 年里，我们有 50% 的可能性实现超级智能。所以
我觉得这个进程可能比有些人预期的要慢，但又比其他人预期的要快。这个观点或多或少与
很久以前 Ray 的看法相符，这让我有些惊讶。但我认为这里的情况充满了不确定性。虽然我
认为我们可能会遇到某种阻碍，但实际上我并不相信会发生这样的情况。如果你看看最近的
进展，其速度是如此惊人。即使没有任何新的科学突破，我们也能通过扩大规模来提高智能
水平。而且科学突破肯定会出现。我们将会看到更多类似 Transformer 的技术。Transformer
在 2017 年带来了显著变革。未来，我们还会看到更多此类创新。所以我相当确信我们会产生
超级智能。可能不会在 20 年内实现，但肯定会在 100 年之内。

**Peter：** 我们知道，埃隆（马斯克）在时间预测的准确性方面并不怎么样。但他确实说，
他预计 2025 年将出现通用人工智能，到 2029 年，AI 将等同于全人类。这在你看来是不是
太过乐观？

**Geoff：** 我个人认为这个目标有些过于雄心勃勃。正如我所说，这里面充满了不确定性。
虽然他可能是对的，但如果真的如此，我会感到非常惊讶。

**Ray：** 我并不是说它将在一台机器上达到全人类的智能水平。它将等同于一百万个人的
智能，这仍然很难想象。

##  超级智能的威胁与希望

**Peter：** 所以我们在这里就一个话题进行辩论。我正在试图找一个有意义的辩论话题，
让 Geoff 和 Ray，以及所有的人们真正停下来思考，并形成自己的观点。因为我们都听说过
这个。我认为这是我们在晚餐桌上需要进行的最重要的讨论。在董事会议室、国会走廊也是
如此。甚至在国家领导层。谈论通用人工智能或者说人类级别的智能是一方面。但谈论数字
化的超级智能，对吧？接下来我们将会听到 Mo Gadot 的演讲，他会讨论当你的 AI [智能体](https://paooo.com/trends/)
比你聪明十亿倍时会发生什么。事情可能会以你完全没预料到的方式非常快速地发展。它们
可能会发生分歧。对吧？速度可能会非常快地引起巨大的分歧。我很好奇，你是如何看待这
既是最大的威胁也是最大的希望的呢？

**Ray：** 我的意思是，首先，这就是我们称之为奇点的原因，因为我们不知道……我们真的
不知道。我认为这是一个巨大的希望。它发展得非常、非常快。没有人知道上次演讲中提出
的那些问题的答案。但是，令人意外的事情的确会发生。我们在过去 80 年里没有发生过原子
武器爆炸的事情，这真是令人惊奇。

**Peter：** 是的，但它们更容易被追踪。它们的制造成本更高。有很多原因使得使用一个
反乌托邦的 AI 系统比使用一种原子武器更容易一百万倍。对吗？

**Ray：** 恩，也许对，也许不对。我的意思是，我们已经有了很多，可能有 10000 个左右
吧。这个数字非常惊人，也非常危险。我认为这实际上是目前最大的危险，而这并没有任何
关系与 AI。

##  AI 模型开源的风险

**Ray：** 但如果你想象一下，如果人们将这项技术开源，那么任何一个研究生只要能得到
一些 GPU，就能制造原子弹，这种情况会非常可怕。因此，他们并没有真正地开源核武器。
只有少数人能够制造并部署这些武器。然而现在，这些大型语言模型正在被开源，但我认为
这些模型绝对不仅仅只是语言模型，这是非常危险的。

**Peter：** 那么，这就是我们接下来两分钟要讨论的有趣问题。现在有一个倡导你必须将
你的模型开源的运动。我们已经看到 Meta、开源运动，还有 Elon 谈论将 Grok 开源。那么，
Geoff，你是在说这些都不应该被开源吗？

**Geoff：** 只要你拥有了模型的权重，你就可以微调继续上文的对话：

**Geoff：** 它们去做坏事，这并不会花费太多。如果你要训练一个基础模型，可能需要花费
1000 万到 1 亿美元，这对于一个小型犯罪团伙来说是无法做到的。但是，微调一个开源模型
却相当容易，不需要太多的资源，可能只需要 100 万美元就可以做到。这将意味着他们会被
用来做出一些可怕的事，而且这些模型非常强大。

**Peter：** 好了，我们也可以利用来自这些模型的智能来规避这些风险，这就是 AI 中的
白帽子和黑帽子对抗。

**Geoff：** 没错，我和杨立昆（Yann LeCun）曾就此争论过，Yann 认为，对比那些有恶意
的人，正面的力量或者说”白帽子”总是能利用更多的开源资源。当然，Yann 觉得马克·扎克
伯格是个好人，我们在这点上并无共识。我只是觉得，今年存在着巨大的不确定因素，我们
应该保持谨慎。而将这些大型模型开源，并不符合这种谨慎的态度。

**Peter：** 好了，Geoff 和 Ray，非常感谢你们的建议和智慧。女士们、先生们，让我们
用热烈的掌声感谢 Ray Kurzweil 和 Geoff Hinton。

🧭 文中关联 [AI 工具](https://ai.paooo.com/)官网与参数卡（语宙 AI 导航）

**Claude ↗**

Anthropic 打造的新一代安全人工智能模型，具备超长上下文理解能力，最强代码伴侣。

**Opus ↗**

Opus助力创意革新，在内容创作与营销推广等方面发挥作用，提供独特创作体验。

❓ 常见问题解答（FAQ）

AI 真的会有意识和感知吗？

文中没有给出定论。Ray Kurzweil 认为意识尚未被清晰定义，但必须严肃对待；Geoff Hinton
则主张先重新理解“主观体验”，认为聊天机器人可能已经能以类似人类的方式表达感知。

为什么说数字化 AI 可能具有“永生”特性？

因为数字模型的权重和参数可以被保存、复制并在新硬件上重新运行。只要数据完整，模型
就能被重建，因此它们在技术上比人类更容易实现持续存在。

AI 被关闭或复制时，权利问题怎么理解？

文章讨论的是伦理与法律边界：如果 AI 被认为有意识，伤害或关闭它可能引发责任问题；
但若它只是可复制的软件实体，权利主张就会更复杂，核心争议在于“复制是否等于同一个个体”。

🔬 语宙深潜追问 · 进阶实操拆解

数字智能可复制，等于同一个“我”吗？

不等于。即使状态、记忆和行为都能复制，复制体与原体仍是两个独立实例，经历会立即分叉。
对人类而言，连续性和身体性很重要，所以“复制即永生”在哲学和工程上都站不住。

企业该如何面对 AI 权利争议？

短期不必把 AI 当法律主体，但要建立可追溯机制：记录模型版本、输入输出、决策链和权限
边界。这样既能应对伦理争议，也能在出现误判、侵权或安全事故时明确责任归属。

🗳️ 读者观点微投票 · 您的实战立场是？

AI 会有意识并获得权利吗？

🕸️ 语宙向量知识图谱 · 语义强关联深度内链

[💻 所属权威专题：Claude & AI 编程 / MCP →](https://paooo.com/topics/claude-mcp-coding/)

 * [马克·扎克伯格前几天接受了 Robin Kallaway 的采访，讨论了未来的技术发展，尤其是智能眼镜、神经腕带和 AI 技术在创作者和小企业中的应用 [译]](https://paooo.com/ai-study/8742/)
 * [李飞飞对话英伟达首席科学家：人工智能的高速革命及其对人类的影响 [译]](https://paooo.com/ai-study/8655/)
 * [神啊，救救我们，让我们试着理解人工智能的“单义性” [译]](https://paooo.com/ai-study/7034/)
 * [访谈记录：Ezra Klein 采访 Dario Amodei [译]](https://paooo.com/ai-study/8693/)

[🏛️ 宝玉的分享](https://paooo.com/author/baoyu/) · 前沿大模型翻译与提示词工程实战
分享专栏，聚焦海外一手 AI 技术动态与工程实践。

[📄 Markdown 纯净版](https://paooo.com/ai-study/8687/?format=md)

💡 这篇内容对您有启发吗？

[📡 RSS 订阅](https://paooo.com/feed/)[✨ 提交 AI 工具 / 合作](https://paooo.com/submit-tool/)

**🚀 Prompt 语宙 AI 创作者生态：**探索 2,800+ 全球实用 AI 工具与高精度生图提示词
咒语库

[🧭 语宙 AI 导航 (ai.paooo.com)](https://ai.paooo.com/)[🎨 AI 生图 Prompt 库](https://paooo.com/ai-image-prompts/)
[📚 核心专题导航](https://paooo.com/topics/)[⚡ AIGC 早报生成器](https://paooo.com/mtool/)
