在构建检索增强型生成系统时的七大挑战 [译]

摘要

随着软件工程师不断探索将语义搜索功能整合入应用程序，一种被称为检索增强型生成（Retrieval Augmented Generation, RAG）的策略应运而生。这种策略主要是找到与查询内容语义相符的文档，然后借助大语言模型（Large Language Model, LLM），比如 ChatGPT，来提取精准答案。RAG 系统的目标包括：a) 减少由大语言模型产生的不切实际的回答，b) 为生成的回答添加来源和参考链接，以及 c) 降低对文档元数据标注的依赖。但是，这一系统也存在其局限性，这些局限性源于信息检索技术本身及对大语言模型的依赖。本文中，我们将分享从三个不同领域（研究、教育和生物医学）的案例研究中得出的 RAG 系统的失败经验。我们总结了这些经验教训，并提出在设计 RAG 系统时应考虑的七大挑战。本研究的两个主要发现是：1) RAG 系统的有效性验证只能在实际运行中进行，2) RAG 系统的健壮性是随着时间逐渐发展而非一开始就固有的。最后，我们为软件工程界提出了一些关于 RAG 系统的潜在研究方向。

检索增强型生成，RAG，SE4AI，案例研究

†会议：第三届国际人工智能工程大会 — 人工智能的软件工程；2024 年 4 月；葡萄牙里斯本†ccs：软件及其工程 经验性软件验证

1. 引言

随着大型语言模型（LLM）的新进展，包括 ChatGPT，软件工程师现在能够开发新型人机交互（HCI）解决方案，执行复杂任务，总结文档，回答特定文件中的问题，甚至创造新内容。但是，LLM 在获取最新信息或公司数据库中特定领域的知识方面仍有局限。针对这一问题，有两种解决方案：一是对 LLM 进行微调（即使用特定领域的资料对 LLM 进行进一步训练），这涉及管理或部署一个微调过的 LLM；二是采用基于检索的增强生成（RAG）系统，利用 LLM 生成基于现有（可扩展）知识工件的答案。这两种方法都有各自的优缺点，如数据隐私/安全性、可扩展性、成本和所需技能等。本文主要讨论 RAG 方法。

基于检索的增强生成（RAG）系统提供了一种解决这一挑战的有效方法。通过整合检索机制和 LLM 的生成能力，RAG 系统能够生成与上下文相关、准确且更新的信息。RAG 系统结合了信息检索和 LLM 的生成技术，检索部分旨在从数据存储中提取用户查询的相关信息，而生成部分则利用这些检索到的信息作为背景来生成回答。RAG 系统的一个重要应用是，它使得所有非结构化信息都可以被索引并供查询，从而减少了开发时间，无需创建知识图谱，也减少了数据整理和清洗的工作量。

构建 RAG 系统的软件工程师需要对不同格式的领域知识工件进行预处理，将处理后的信息存储在适当的数据库（如向量数据库）中，并实现或集成合适的查询 – 工件匹配策略。他们还需对匹配的工件进行排序，并通过调用 LLM 的 API，将用户查询和上下文文档一起传入。构建 RAG 系统的技术不断进步（参见 Lewis et al., 2020；Hofstätter et al., 2023），但如何将这些进步应用于特定的应用场景，以及它们的表现如何，还需要进一步探索。

在这项工作中，我们分享了从三个案例研究中获得的经验教训和七个常见失败点。本文的目的是为实践者提供参考，并为 RAG 系统的研究提供一个路线图。据我们所知，这是首次就构建健壮的 RAG 系统所面临的挑战提供实证洞察。随着 LLM 的不断进步，软件工程领域需要了解如何利用 LLM 构建健壮的系统。这项工作对于建立健壮的 RAG 系统至关重要。

本研究的研究问题包括：

• 在构建 RAG 系统时，可能遇到哪些失败点？（详见第 5 节）我们利用 BioASQ 数据集进行了一项实证实验，探讨了可能的失败点。实验包括了 15,000 份文档和 1000 个问题及答案对。我们对所有文档进行了索引，然后运行查询并使用 GPT-4 生成响应。所有的问题和答案对随后都经过了 OpenAI evals 1 的验证。通过手动检查（包括所有差异、所有被标记为错误的内容，以及一部分被标记为正确的内容）我们分析并识别了模式。

• 如何有效构建 RAG（Retrieval Augmented Generation）系统？ (第 6 节) 本文从三个实际案例出发，探讨了在实施 RAG 系统时遇到的挑战和得到的有价值的见解。

这项研究的主要成果包括：

• 列出了 RAG 系统中可能出现的故障点。

• 基于三个案例（其中两个正在迪肯大学运行）对实施 RAG 系统的实践报告。

• 基于三个案例研究的经验，提出了 RAG 系统的未来研究方向。

2.相关工作

检索增强生成是指在训练前和推理阶段使用文档来提升大语言模型 (LLM) 的能力（Izacard 和 Grave，2020; Guu 等人，2020; Lewis 等人，2020）。考虑到计算成本、数据准备时间和资源需求，不进行训练或微调的 RAG 使用方法尤为吸引人。然而，在使用大语言模型提取信息时，尤其是处理长文本时，会遇到一些挑战（Hofstätter 等人，2023）。

最近的一项调查（Zhu 等人，2023）显示，在 RAG 流程中，大语言模型在检索、数据生成、重写和阅读各环节中发挥着重要作用。我们的研究补充了这项调查，从软件工程的视角出发，探讨了工程师在实施最先进 RAG 系统时可能遇到的问题以及必要的软件工程研究。

新兴研究开始对 RAG 系统进行基准测试（Chen 等人，2023b），但很少涉及实施过程中的失败情况。软件工程领域已经研究了 RAG 系统在编码相关任务中的应用（Nashid 等人，2023）。然而，RAG 系统的应用远不止于此。本文从实践角度出发，探讨了实施 RAG 系统过程中的挑战，特别关注从业者的经验。

RAG 系统中出现的错误和失败与其他信息检索系统有一定的重叠，主要包括：1) 缺乏查询重写的度量方法，2) 文档的重新排序问题，3) 高效的内容摘要方法（Zhu 等人，2023）。我们的研究结果证实了这些问题。其独特之处在于，它涉及到使用大语言模型的语义生成特性，特别是在评估事实准确性方面的挑战（OpenAI，2023）。

3.检索增强生成

图 1：创建检索增强生成 (RAG) 系统所需的索引和查询步骤。通常在开发阶段进行索引，而查询则在运行时进行。本研究中识别出的失败点在图中以红色方框标出。所有必要的步骤都被加了下划线。图表来源：Zhu et al. 2023。

随着 ChatGPT2、Claude3 和 Bard 4 等大语言模型服务的迅速流行，人们开始使用它们作为问答系统。尽管它们的表现令人印象深刻（参考 OpenAI, 2023），但存在两大挑战：1) 幻觉现象——即大语言模型产生看似正确但实际错误的回答；2) 无法限制——无法直接指导或更新输出内容，只能通过提示工程来间接影响。为了克服这些限制，RAG 系统采用了信息检索方法。

RAG 系统的工作原理是：首先将自然语言查询转换为嵌入向量，然后用这个向量在一组文档中进行语义搜索。搜索到的文档接着被送到大语言模型中，以生成答案。图 1 展示了 RAG 系统的两个主要流程：索引和查询。更多细节请参考 Zhu et al. 2023。

3.1.索引过程

在 RAG 系统中，检索系统通过嵌入向量工作，这些向量是文档的压缩语义表示。索引过程中，每个文档被分割成小块，这些块经过嵌入模型转换成向量，然后存储在数据库中。软件工程师在设计时需要决定如何最佳切分文档和块的大小。块太小可能无法回答某些问题，而块太大则可能导致答案中包含不必要的信息。

根据不同类型的文档，切分和处理的步骤也有所不同。例如，处理视频内容时需要一个转录流程，将音频提取并转换为文本，之后再进行编码（详见小节 4.2）。选择合适的嵌入方式也至关重要，因为更换嵌入策略意味着需要对所有内容块重新索引。选择嵌入方式应基于其检索正确回应的能力，这取决于块的大小、预期问题的类型、内容结构和应用领域。

3.2.查询过程

查询过程发生在系统运行时。首先，一个自然语言形式的问题被转换成一般的查询请求。为了泛化这个查询，我们使用了大语言模型，这使得可以将额外的上下文（如之前的聊天记录）融入到新的查询中。接着，根据新查询计算出一个嵌入式表示，用来从数据库中寻找相关文档。我们通过像余弦相似度这样的方法来检索最相似的前 k 个文档（例如，向量数据库利用倒排索引等技术来加快检索速度）。基本的想法是，与查询在语义上接近的内容块更有可能包含所需答案。

接下来，检索到的文档会进行重新排序，以提高含有答案的内容块位于排名前列的可能性。紧接着是“整合器”阶段，该阶段负责处理这些内容块。这一步骤是必要的，因为它帮助解决了大语言模型面临的两大限制：一是令牌数量限制，二是请求频率限制。例如，OpenAI 这样的服务对于一次性提示中可以包含的文本量设有上限。这就限定了在一次提示中可以包含的内容块数量，为了从中提取答案，需要采取一种减少策略，并通过连续的提示来获取答案。此外，这些服务还对一定时间内可使用的令牌数量设有限制，这影响了系统的响应速度。因此，在设计 RAG 系统时，软件工程师需要权衡这些因素。

RAG 流程的最终阶段是从生成的文本中提取答案。在这一阶段，负责读取的部分要从输入的提示中过滤掉无关信息，遵守格式化指令（如以选项列表的形式回答问题），并产生最终的查询回应。实施 RAG 系统需要根据问题和答案的内容定制多个提示。这一过程确保了返回的问题与特定领域相关。利用大语言模型实时回答文档中的问题，为那些涉及问答的新应用领域开辟了新的可能性。因此，测试 RAG 系统具有一定的难度，因为缺乏现成的测试数据，需要通过合成数据生成或者最小规模的系统试运行来进行实验性探索。

4.案例研究

本研究通过三个案例研究探讨了实施 RAG 系统时遇到的挑战。每个案例研究的概要可在 表 1 中查看。BioASQ 案例研究所用的所有脚本、数据及失败点的示例均可在线获取。由于保密原因，其他两个案例研究未予以公开。

表 1.本文介绍的 RAG 案例研究摘要。带 * 标记的案例研究表示目前正在使用的运行系统。

4.1.认知审查员

认知审查员是一种用于辅助研究人员分析科学文献的 RAG（检索式问答生成）系统。研究人员可以设定一个研究问题或目标，上传相关的研究论文集。系统会根据设定的目标对所有文档进行排名，供研究人员进行手动审查。研究者还可以直接对所有文档提出问题。目前，迪肯大学的博士生使用认知审查员来辅助他们的文献综述工作。该系统在运行时执行索引处理，并依赖于一个强大的数据处理流程来处理上传的文档，因此开发阶段无法进行质量控制。此外，系统还应用了一个排序算法来组织上传的文档。

4.2.AI 导师

AI 导师是一种 RAG 系统，学生可以在此系统中提出与课程单元相关的问题，答案则从学习内容中获取。学生可以通过访问答案来源列表来核实答案的准确性。AI 导师通过集成到迪肯大学的学习管理系统中，对包括 PDF 文档、视频和文本文件在内的所有内容进行索引。在索引过程中，使用深度学习模型 Whisper (Radford et al., 2023) 对视频进行转录并分段处理。AI 导师从 2023 年 8 月开发至 11 月，用于 2023 年 10 月 30 日开始的含 200 名学生的课程单元试点。我们计划在试点结束后分享实施过程中的经验教训及后续发现。这个 RAG 系统包含了一个查询重写功能，能够概括化学生的提问。我们还实现了一个聊天界面，通过考虑用户与 AI 导师之间之前的对话作为每个问题的上下文。查询重写功能会根据这一上下文调整问题，以解决如“进一步解释这个概念”等模糊请求。

4.3.生物医学问答

之前的案例研究主要关注内容较少的文档。为了在更大规模上探索问题，我们利用 BioASQ（一个生物医学问答数据集，由 Krithara et al., 2023 编制）开发了一个 RAG 系统。该数据集包含了问题、相关文档的链接和答案，答案形式包括是/否、文本摘要、事实或列表。这些由生物医学专家编制的问题和答案对集中于特定领域的知识。我们从 BioASQ 数据集下载了 4017 份公开获取的文档，并准备了 1000 个问题。所有文档被编入索引，并对 RAG 系统提出问题。生成的问题随后通过 OpenAI6 实现的 OpenEvals 技术进行评估。我们手动检查了其中的 40 个问题和所有被 OpenEvals 标记为不准确的问题。我们发现，对于这一领域，自动评估结果比人类评估更为严格。但是，需要注意的是，由于 BioASQ 是针对特定领域的数据集，且评审员不是该领域专家，因此可能存在评估偏差，即大语言模型在某些方面可能比非专家更加精通。

5. RAG 系统的失败点

我们通过案例研究确认了一系列 RAG 系统可能遇到的失败点。下一节将探讨这个研究问题：在开发 RAG 系统过程中，会遇到哪些失败点？

1. FP1

   缺少内容 当用户提出一个无法仅凭现有文档回答的问题时，就会出现第一个失败案例。在最理想的情况下，RAG 系统会回答“对不起，我不知道”。但如果问题虽与内容有关但找不到答案，系统可能误导性地给出一个回答。

2. FP2

   未涵盖排名靠前的文档 当答案存在于某个文档中，但因排名不够靠前而未能展示给用户。理论上，所有文档都会进行排名并用于后续处理。但实际上，仅有排名前 K 的文档会被展示，这里的 K 是基于性能考虑选择的一个数字。

3. FP3

   上下文外置 – 整合策略的限制 即使数据库检索到了含有答案的文档，这些文档也可能未能融入到生成答案的上下文中。这通常发生在数据库返回大量文档，并且需要通过一个整合过程来提取答案时。

4. FP4

   未能提取答案 存在于上下文中的答案未被大语言模型正确抽取。这通常发生在上下文中信息太杂乱或信息相互矛盾的情况下。

5. FP5

   格式错误 当问题要求以特定格式（如表格或列表）提取信息，而大语言模型没有按照这一要求进行处理时。

6. FP6

   不恰当的详细程度 回答虽然给出，但对于用户的需求来说，要么过于笼统，要么过于具体。这种情况可能发生在 RAG 系统的设计者对特定问题有特定期望，如教师针对学生的问题。在这种情况下，应该提供具体的教育内容，而不仅仅是答案。当用户不确定如何提问，问题过于广泛时，也可能出现不恰当的详细程度。

7. FP7

   回答不完整 回答虽然不是错误的，但缺少了一些信息，即使这些信息在上下文中存在并可以提取。比如，对于“文档 A、B 和 C 中包含哪些关键点？”这样的问题，更好的提问方式是将这些问题分开来问。

6.经验总结和未来研究的方向

表 2. 从三个案例研究中获得的经验教训及其对未来 RAG 实施的主要启示

从这三个案例研究中，我们总结出了一些宝贵的经验教训，这些教训在 表 2 中有所展示。针对研究问题：“在构建 RAG 系统时，需要考虑哪些关键因素？”我们基于这些经验教训，确定了与 RAG 相关的多个未来研究方向。

6.1. 文档切分和嵌入

虽然将文档分成小块看似简单，但其实这个过程对于检索信息的效果有着重大影响。这主要体现在如何将这些文档块转换成电脑能够理解和比较的形式（即“嵌入”），进而影响这些块与用户搜索内容的匹配程度。文档切分主要有两种方式：一种是基于形式的切分，比如利用标点和段落的结束；另一种是基于文档内容的意义进行切分。未来的研究需要探索这两种方法的优劣，以及它们对文档块转换和匹配过程的影响。建立一个比较不同切分技术的评估框架，特别是在查询相关性和检索准确度方面，将对该领域大有裨益。

另一个研究热点是如何为多媒体和多模式的内容（例如表格、图表、公式等）创建有效的嵌入形式。这些嵌入通常在系统开发或新文档被加入索引时只创建一次。查询预处理过程，尤其是处理那些含糊或负面的查询，对 RAG 系统的性能有显著影响。关于如何改进嵌入技术以解决其固有的局限性（例如匹配的准确度通常与特定领域相关），还需要进一步的研究。

6.2. RAG 与微调

大语言模型（LLM）之所以成为出色的“世界模型”，归功于其庞大的训练数据和在发布前进行的微调。但这些模型通常是通用的，并且知识更新并不及时。微调和 RAG 提供了两种不同的个性化途径，每种方法都有其利弊。微调需要定制数据集来适应和训练大语言模型，但这意味着所有数据都集成在模型中，涉及安全和隐私的问题。而且，随着基础模型的更新或新数据的加入，需要重新进行微调。相比之下，RAG 系统提供了一种灵活的解决方案，允许按需切分数据，并将相关部分纳入上下文中，由大语言模型生成答案。这种方法不仅便于不断更新知识，还能控制用户访问的数据块。然而，在块嵌入、检索和上下文融合方面的最佳策略，仍然是一个活跃的研究议题。未来的工作应该系统地比较微调和 RAG 方法，在准确性、响应时间、运营成本和鲁棒性等方面进行评估。

6.3. 测试与监控 RAG 系统

RAG 系统的软件工程最佳实践还在逐步形成。软件测试和测试用例生成是改进的关键领域。RAG 系统需要针对特定应用的问题和答案，而这些在处理非结构化文档时往往难以获得。最新的研究尝试使用大语言模型 (LLMs) 从多个文档中生成问题（参见 Chen et al., 2023a）。如何创造与实际领域紧密相关的问题和答案，目前仍是一个悬而未决的问题。

一旦我们能够获取适当的测试数据，就需要相应的质量评估指标，以帮助工程师在质量上做出平衡选择。使用大型语言模型虽然成本高昂，可能引起响应延迟，且性能特性随着每次新版本的发布而变化，但这一特点在机器学习系统中已有研究（参见 Cummaudo et al., 2020b, a）。这些研究成果是否适用于基于 LLM 的系统，比如 RAG，还有待观察。另一个方向是，探索将自适应系统的理念融入到 RAG 系统的监控和调整中，这方面的初步工作已开始应用于其他机器学习领域（参见 Casimiro et al., 2022）。

7. 结论

RAG 系统是一种新型信息检索工具，它利用了大型语言模型 (LLMs)。软件工程师越来越多地通过实施语义搜索或处理新的代码依赖任务与 RAG 系统互动。本文基于三个案例研究，包括对 15,000 份文档和 1000 个问题的实证研究，分享了我们的经验教训。我们的发现为从业人员提供了宝贵的参考，展示了实施 RAG 系统时所面临的挑战。同时，我们也探讨了 RAG 系统的未来研究方向，包括 1）数据分块和嵌入技术，2）RAG 与微调策略的比较，以及 3）测试与监控策略。随着大型语言模型不断发展，获得对工程师和研究者更有价值的新功能，本文从软件工程的视角，对 RAG 系统进行了首次深入探讨。

致谢

特此感谢 Amanda Edgar, Rajesh Vasa, Kon Mouzakis, Matteo Vergani, Trish McCluskey, Kathryn Perus, Tara Draper, Joan Sutherland 以及 Ruary Ross，在 AI 导师项目中提供的支持和参与。