这篇关于提示工程、RAGs 与微调对比的推文不错,它这个坐标图分成了两个坐标轴:
- 所需要外部知识多少
- 所需要的对模型定制的多少
原推文翻译如下:
提示工程、RAGs 与微调的对比:
这是每位搭建基于大语言模型(LLM)应用的 AI 工程师都面临的关键选择。
要理解这个决策的指导原则,我们首先得明白这些术语的含义。
1️⃣ 提示工程:
所谓提示,指的是你输入的文本,大语言模型就根据这个输入来生成回应。
这实际上是一种精确的输入方法,旨在引导模型产生相应的输出。
模型的输出将基于其已有的知识。
2️⃣ RAGs(检索增强生成):
当你将提示工程与数据库查询结合,以获得含丰富上下文的答案时,这就是所谓的 RAG。
生成的输出将基于数据库中现有的知识。
3️⃣ 微调:
微调是指使用特定任务的数据调整大语言模型的参数,使其在某一领域内专业化。
比如,一个语言模型可以在医学文献上进行微调,从而更擅长回答健康护理相关的问题。
这就好比对一位已经技艺娴熟的工人进行额外培训,让他们在特定领域成为专家。
那么,我们如何决定采取哪种方法呢?
(阅读下文时请参考下面的图片)
❗️ 有两个关键的指导参数,一个是对外部知识的需求,另一个是模型适应性的需求。
❗️ 尽管前者的含义较为明确,模型适应性则意味着改变模型的行为、词汇、写作风格等。
例如,一个预训练的大语言模型可能在总结公司会议记录时遇到挑战,因为会议中可能穿插了一些特定的内部术语。
🔹 因此,微调更多的是关于改变结构(行为)而非知识,而对于 RAGs 则正好相反。
🔸 当你需要生成基于定制知识库的输出,同时保持大语言模型的词汇和写作风格不变时,你可以选择使用 RAGs。
🔹 如果你不需要上述任一功能,那么提示工程就是你的选择。
🔸 如果你的应用既需要定制知识又需要改变模型的行为,那么采用混合方案(RAGs + 微调)将是更佳选择。
提示工程、RAG 和微调怎么选?
先看两件事:是否需要外部知识,以及是否需要改变模型行为。只需引导输出,用提示工程;要用自有知识库,选 RAG;若还要让模型学会特定风格、术语或行为,优先微调,必要时用 RAG+微调组合。
RAG 和微调最大的区别是什么?
RAG 主要解决“知识从哪来”,通过检索外部数据库补充上下文;微调主要解决“模型怎么表现”,通过训练数据调整参数,让模型更适合特定任务、语气或领域表达。前者偏知识,后者偏行为。
什么时候需要同时用 RAG 和微调?
当应用既要回答基于定制知识库的问题,又要改变模型的输出风格、术语习惯或任务行为时,就适合混合方案。这样既能保证知识准确性,也能让模型更贴合业务场景。
什么时候该用RAG而不是直接微调?
当问题核心是“让模型知道新知识”时,优先用RAG;如果知识更新频繁、来源可追溯,RAG更灵活。微调更适合稳定风格、固定流程和输出格式,而不是频繁变动的事实库。
RAG加微调的混合方案怎么落地?
先用RAG解决事实注入,再用微调统一语气、格式和决策边界。工程上要把检索结果、提示模板和输出约束分层管理,避免模型把知识和行为混在一起导致不可控。
