# 向 OpenGPTs 注入长效记忆功能 [译]

- Link: https://paooo.com/ai-study/7170/
- Published: 2024-03-04T18:23:33+08:00
- Author: 宝玉的分享

⚡ [Prompt](https://paooo.com/ai-image-prompts/) 语宙 AI 导读 · 30 秒核心看点

 * OpenGPTs 仅有短期对话记忆，长效记忆需额外设计状态追踪与检索机制。
 * 语义记忆依赖向量检索，但易遗漏跨消息信息且缺少时间因素。
 * 生成式[智能体](https://paooo.com/trends/)结合最近性、相关性与反思，更适合构建
   可用的长期记忆。

三周前，我们发布了 OpenGPTs——一种基于开源理念实现的 [OpenAI](https://paooo.com/tag/openai/)
GPTs 和 Assistant API。OpenGPTs 能够构建对话型 AI 智能体，这是一种既灵活又前瞻性
的技术架构。在这些智能体中，**记忆**扮演着至关重要的角色。目前，无论是 GPTs、OpenGPTs
还是 Assistants API，它们都仅仅支持基础的对话记忆功能。而长期记忆则是一个尚未深入
探索的领域。在本篇博客中，我们将简要探讨我们对记忆的看法，分析为何这一领域研究不足，
然后展示我们如何在 OpenGPTs 中实现并应用特定记忆机制，打造出一位“龙与地下城”游戏
的地牢主。

阅读目录

 * [大语言模型的无状态特性](https://paooo.com/ai-study/7170/#%e5%a4%a7%e8%af%ad%e8%a8%80%e6%a8%a1%e5%9e%8b%e7%9a%84%e6%97%a0%e7%8a%b6%e6%80%81%e7%89%b9%e6%80%a7)
 * [对话记忆](https://paooo.com/ai-study/7170/#%e5%af%b9%e8%af%9d%e8%ae%b0%e5%bf%86)
 * [语义记忆](https://paooo.com/ai-study/7170/#%e8%af%ad%e4%b9%89%e8%ae%b0%e5%bf%86)
 * [挑战](https://paooo.com/ai-study/7170/#%e6%8c%91%e6%88%98)
 * [生成式智能体](https://paooo.com/ai-study/7170/#%e7%94%9f%e6%88%90%e5%bc%8f%e6%99%ba%e8%83%bd%e4%bd%93)
 * [长期记忆的抽象理解](https://paooo.com/ai-study/7170/#%e9%95%bf%e6%9c%9f%e8%ae%b0%e5%bf%86%e7%9a%84%e6%8a%bd%e8%b1%a1%e7%90%86%e8%a7%a3)
       * [对话记忆](https://paooo.com/ai-study/7170/#%e5%af%b9%e8%af%9d%e8%ae%b0%e5%bf%86)
       * [语义记忆](https://paooo.com/ai-study/7170/#%e8%af%ad%e4%b9%89%e8%ae%b0%e5%bf%86)
       * [生成式智能体](https://paooo.com/ai-study/7170/#%e7%94%9f%e6%88%90%e5%bc%8f%e6%99%ba%e8%83%bd%e4%bd%93)
 * [针对特定应用的记忆机制](https://paooo.com/ai-study/7170/#%e9%92%88%e5%af%b9%e7%89%b9%e5%ae%9a%e5%ba%94%e7%94%a8%e7%9a%84%e8%ae%b0%e5%bf%86%e6%9c%ba%e5%88%b6)
 * [龙与地下城聊天机器人](https://paooo.com/ai-study/7170/#%e9%be%99%e4%b8%8e%e5%9c%b0%e4%b8%8b%e5%9f%8e%e8%81%8a%e5%a4%a9%e6%9c%ba%e5%99%a8%e4%ba%ba)
       * [技术架构](https://paooo.com/ai-study/7170/#%e6%8a%80%e6%9c%af%e6%9e%b6%e6%9e%84)
 * [实际操作中的展示](https://paooo.com/ai-study/7170/#%e5%ae%9e%e9%99%85%e6%93%8d%e4%bd%9c%e4%b8%ad%e7%9a%84%e5%b1%95%e7%a4%ba)
 * [结论](https://paooo.com/ai-study/7170/#%e7%bb%93%e8%ae%ba)

##  大语言模型的无状态特性

大语言模型（LLM）本质上是无状态的，即它们处理第二个输入时，不会记得之前的第一个输入。
因此，几乎所有的大语言模型也都没有记忆功能。这就意味着，如果你想让模型有记忆能力，
就需要用户在将信息传递给大语言模型之前自己维护这些状态。

OpenAI 不久前推出的 Assistants API 打破了这一局限。该 API 允许追踪一连串的信息，
你可以让一个 AI 智能体（即大语言模型）处理这些信息，它会将新信息添加到这个信息序列
中。尽管大语言模型本身依然是无状态的，但通过这个 API，它似乎具备了记忆功能。

即便如此，目前主要利用的还是基于对话的短期记忆。

##  对话记忆

对话记忆指的是在对话中记住之前的信息。这一过程是通过记录之前的消息，然后将这些消息
作为输入内容加入到提示中，进而传递给大语言模型（LLM）来完成的。

![向 OpenGPTs 注入长效记忆功能 [译]](https://paooo.com/wp-content/uploads/2024/03/
CONVERSATIONAL-MEMORY-1-.webp)

当记录的消息数量变得很多时，就会出现问题。首先，如果记录的消息过多，可能会超出大
语言模型处理的文本范围。其次，即便没有超出处理范围，过多的消息也可能让大语言模型
难以有效处理所有信息（详见 Greg Kamradt 的研究，关于长文本处理的局限性）。

解决这个问题的一个直接方法是仅使用最近的几条消息。但这样做的缺点是缺乏长期记忆能力——
机器人可能会忘记你之前说的话。

那么，如何解决这个问题呢？

##  语义记忆

语义记忆是另一种常用的记忆类型。它指的是寻找与当前消息内容相似的消息，并将这些消息
以某种方式融入到当前的提示中。

这通常是通过为每条消息创建一个“嵌入向量”（一种信息的数学表示），然后寻找与之相似
的其他消息来实现的。这个原理与所谓的“检索增强生成”（Retrieval-Augmented Generation,
RAG）类似，不过它是在消息中进行搜索，而不是在文档中。

比如，如果用户问“我最喜欢的水果是什么”，我们可能会找到一条类似的旧消息，如“我最喜欢
的水果是蓝莓”（因为它们在信息表示上是相似的）。然后，我们可以将这条旧消息作为上下文
信息加入进来。

不过，这种方法也存在一些问题。

##  挑战

首先：信息或见解若分布在多条消息中，可能难以准确地检索到关键消息。例如，假如出现
这样的消息序列：

> AI: 你最喜欢哪种水果？

> 人类：蓝莓

要获取完整的信息，就必须同时检索这两条消息。

其次：这种方法没有考虑时间因素。随着时间的推移，偏好或事实可能会改变。我的最爱水果
也可能会变。仅凭语义相似性来检索，并没有考虑到这一点。

第三：这种方式对所需记忆类型的界定相对模糊。这对于通用人工智能 (AGI) 可能是好事，
但对于那些需要更专注、具体的应用来说则不太理想。

##  生成式智能体

生成式智能体 是一篇不到一年前发表的杰出论文，它在高级记忆领域做了一些极具创新性的
工作。深入了解这篇论文，你会发现它是如何应对上述挑战的。

在《生成式智能体》一文中，研究者们采用了多种技巧来构建记忆：

 * 最近性：他们根据最新的消息来获取记忆（这是对话记忆与基于时间戳的消息加权的结合）。
 * 相关性：他们获取与话题相关的消息（语义记忆）。
 * 反思：他们不仅仅提取原始消息，而是利用大语言模型 (LLM) 对这些消息进行深思，然后
   提取这些深思后的内容。

通过反思可以解决前述的第一个问题：如果信息分散在多个消息中，通过对这些消息的反思
可以生成一个综合概念。

第二个问题通过最近性加权得到了部分解决，但可能还未彻底解决。

至于第三个问题，则没有得到实质性的解决，因为这依然是一种较为通用的记忆形式（但这
也符合其目标所在）。

##  长期记忆的抽象理解

当我们探讨长期记忆时，一个通用的抽象概念是：

 * 存在一种随时间变化并被持续追踪的信息
 * 这些信息会在特定时期进行更新
 * 这些信息会以某种方式融入到输入文本中

那么，我们关注的问题便是：

 1. 被追踪的信息是什么？
 2. 这些信息是如何更新的？
 3. 这些信息是如何被应用的？

![向 OpenGPTs 注入长效记忆功能 [译]](https://paooo.com/wp-content/uploads/2024/03/
long-term-memory-abstraction-1-1.webp)

接下来，让我们来具体了解上述三种记忆类型的实际应用。

####  **对话记忆**

 * 被追踪的信息是一系列消息
 * 通过在每次对话后追加新消息来更新这些信息
 * 通过将这些消息融入到输入文本中来运用这些信息

####  **语义记忆**

 * 被追踪的信息是消息的向量存储（vectorstore）
 * 通过在每次对话后对消息进行向量化处理并加入存储来更新这些信息
 * 通过在每次对话后查询类似消息来融入这些信息

####  **生成式智能体**

 * 被追踪的信息包括记忆的向量存储和最近记忆的列表
 * 更新这些信息的方式有多种。首先，每次对话后，新的记忆会被加入最近记忆列表。接着，
   为这个记忆计算一个嵌入。最后，在经过 N 次对话后，会对这些最近的记忆进行整理并
   同时加入列表和向量存储中。
 * 通过基于最近性和相关性的权衡选择记忆（或记忆的整理）来融入到输入文本中。

##  针对特定应用的记忆机制

所有这些记忆机制形式都是相当通用的。如果你正在尝试构建通用人工智能 (AGI)，这是非常
有利的。但如果你的目标是开发更专门的应用程序，这些机制就显得不那么可靠和高效。

💡

记忆是认知架构的一部分。正如我们在实际应用中发现的那样，针对特定应用的记忆形式可以
极大地提升应用程序的可靠性和性能。

因此，在你构建应用程序时，我们强烈建议你思考以下问题：

 * **_追踪哪些状态？_**
 * **_如何更新这些状态？_**
 * **_这些状态将如何被利用？_**

当然，这说起来容易做起来难。即便你能回答这些问题，如何具体实施构建呢？

我们决定在 OpenGPTs 中尝试这个想法，并构建一个具有特定记忆机制的特殊类型的聊天机器
人。

##  龙与地下城聊天机器人

我们决定打造一个能够可靠地扮演龙与地下城游戏主持人的聊天机器人。我们需要哪种特定
的记忆机制呢？

**_追踪哪些状态？_**

我们首先要确保跟踪游戏中涉及的角色信息。包括他们是谁、他们的特征等等。我们将这称为`
角色` 记忆。

接下来，我们还想跟踪游戏本身的进展状态。比如到目前为止发生了什么、角色所处的位置
等。我们将这称为 `任务` 记忆。

我们决定将这些信息分成两个独立的部分，因此实际上我们在同时跟踪和更新两种状态：`角色`
和 `任务`。

**_如何更新这些状态？_**

对于角色描述，我们希望只在开始时更新一次。因此，我们希望我们的聊天机器人能够一次
性收集所有相关信息，更新这个状态，之后不再进行更改。

之后，我们希望我们的聊天机器人能够在每个回合尝试更新任务的状态。如果判断不需要更新，
则保持现状；否则，我们会用大语言模型（LLM）生成的新状态来替换当前的任务状态。

**_这些状态将如何被利用？_**

我们希望无论是角色描述还是任务的当前状态都能够始终被嵌入到聊天提示中。这个过程相对
直接，因为它们都是文本形式，只需通过一些提示设计技巧，将这些变量作为占位符加入即可。

####  技术架构

在这个聊天机器人的开发中，我们采用了与一般 AI 智能体稍有不同的技术架构。具体来说，
我们采用了状态机的一个版本。这个聊天机器人处于以下两种状态之一：

 1. 角色构建状态：这一阶段主要是收集用户角色的相关信息。
 2. 任务模式状态：在这个状态下，机器人主导一个任务。

当大语言模型 (LLM) 判断已经收集到足够的玩家角色信息时，就会发生从角色构建状态到任务
模式状态的转换。此时，它会更新 `character` 内存。`character` 内存的存在意味着聊天
机器人应转换到讲述任务的状态。

##  实际操作中的展示

要想实际看到这一切，你可以访问 OpenGPTs 的线上版本。你可以在这里找到一个已经创建
好的机器人。源代码可以在这里查看。

如果你想自己从头开始创建一个带有记忆功能的“龙与地下城”（一款角色扮演游戏）聊天机器
人，在创建新机器人时选择 `dungeons_and_dragons` 类型。

![向 OpenGPTs 注入长效记忆功能 [译]](https://paooo.com/wp-content/uploads/2024/03/
Screenshot-2023-11-29-at-1.05.42-PM.webp)

与它对话时，它会首先与你进行互动，收集你的角色信息。

![向 OpenGPTs 注入长效记忆功能 [译]](https://paooo.com/wp-content/uploads/2024/03/
Screenshot-2023-11-29-at-12.59.51-PM.webp)

一旦它收集了足够的信息，就会把这些信息保存在 `CharacterNotebook`（我们用来存储角色
信息的记忆系统）里。

![向 OpenGPTs 注入长效记忆功能 [译]](https://paooo.com/wp-content/uploads/2024/03/
Screenshot-2023-11-29-at-1.00.02-PM.webp)

接下来，它会引导你进行一场冒险。在不同的阶段，`StateNotebook`（我们用来记录冒险状态
的记忆系统）会进行更新。

![向 OpenGPTs 注入长效记忆功能 [译]](https://paooo.com/wp-content/uploads/2024/03/
Screenshot-2023-11-29-at-1.03.58-PM.webp)

所有的活动都会在 LangSmith 中记录下来，这样我们就能看到幕后的情况：

![向 OpenGPTs 注入长效记忆功能 [译]](https://paooo.com/wp-content/uploads/2024/03/
Screenshot-2023-11-29-at-1.17.11-PM.webp)

请注意，这个过程并不是完美无缺的！为了随着时间的推移改善冒险的更新过程，肯定还需要
进行一些智能提示的优化。尽管如此，我们希望这能作为我们如何理解长期记忆，以及一个
具体的_定制化_实施案例的展示。

##  结论

长期记忆作为研究领域，还远未被充分探索。这可能是因为它或者太泛化，倾向于研究通用
人工智能 (AGI)，或者过于特定于某些应用，难以进行通用化讨论。

在 LangChain，我们认为，大多数需要长期记忆功能的应用更适合采用针对特定应用设计的
记忆机制。在这个前提下，我们需要深入思考以下几个问题：

 * 追踪的状态是什么？
 * 这些状态如何得到更新？
 * 如何利用这些状态？

为了简化这个过程，我们正在开发一个框架（及相关工具），即 LangChain, OpenGPTs, LangSmith。
但由于这些工具需要针对特定应用设计，因此在抽象层面上的开发颇具挑战。**如果您的公司
正在开发需要长期记忆功能的应用，并且需要帮助，请随时通过 hello@langchain.dev 与我们
联系。**

❓ 常见问题解答（FAQ）

OpenGPTs 怎么实现长期记忆？

文章给出的思路不是让模型本身“记住”，而是为智能体外置记忆机制：保存最近消息、建立
向量存储、按相关性与最近性检索，并在必要时用 LLM 对多条记忆做反思整合。

对话记忆和语义记忆有什么区别？

对话记忆是把历史消息直接追加进上下文，优点简单但容易超长；语义记忆则把消息向量化
后按相似度检索，更适合找相关内容，但可能漏掉分散在多条消息中的关键信息。

生成式智能体的记忆机制为什么更强？

它同时利用最近性、相关性和反思：既保留最新互动，也能检索相似记忆，还会把分散信息
提炼成更高层概念，因此比单纯对话记忆或语义检索更适合长期任务。

🔬 语宙深潜追问 · 进阶实操拆解

对话记忆和语义记忆该怎么分层？

对话记忆保存近期上下文，适合短期连续任务；语义记忆沉淀稳定事实、偏好和规则，适合
长期个性化。实现上要先做摘要与去重，再按可信度和时效性分层检索，避免记忆膨胀。

反思机制如何避免越记越乱？

反思不能无限写入，必须有“写入门槛”。只有当事件重复出现、影响任务结果或用户明确确认
时才入库；同时定期做遗忘、冲突合并和版本标记，否则记忆会把噪声也长期保存。

🗳️ 读者观点微投票 · 您的实战立场是？

长效记忆会让AI更强还是更危险？

🕸️ 语宙向量知识图谱 · 语义强关联深度内链

[🐋 所属权威专题：DeepSeek 深度实战与部署 →](https://paooo.com/topics/deepseek/)

 * [Mem0 – 一款开源的大语言模型记忆增强工具](https://paooo.com/aigc-news/27752/)
 * [MemGPT：将大语言模型转变为操作系统 [译]](https://paooo.com/ai-study/8586/)
 * [MemMachine：开源AI记忆系统如何重塑智能体交互？支持情景、语义、画像多类型记忆](https://paooo.com/ai-tool/12695/)
 * [MemoryScope – 为LLM聊天机器人配备的长期记忆系统](https://paooo.com/aigc-news/26599/)

[🏛️ 宝玉的分享](https://paooo.com/author/baoyu/) · 前沿大模型翻译与提示词工程实战
分享专栏，聚焦海外一手 AI 技术动态与工程实践。

[📄 Markdown 纯净版](https://paooo.com/ai-study/7170/?format=md)

💡 这篇内容对您有启发吗？

[📡 RSS 订阅](https://paooo.com/feed/)[✨ 提交 AI 工具 / 合作](https://paooo.com/submit-tool/)

**🚀 Prompt 语宙 AI 创作者生态：**探索 2,800+ 全球实用 AI 工具与高精度生图提示词
咒语库

[🧭 语宙 AI 导航 (ai.paooo.com)](https://ai.paooo.com/)[🎨 AI 生图 Prompt 库](https://paooo.com/ai-image-prompts/)
[📚 核心专题导航](https://paooo.com/topics/)[⚡ AIGC 早报生成器](https://paooo.com/mtool/)
