# 最大化大语言模型性能 [译] - Link: https://paooo.com/ai-study/8477/ - Published: 2024-08-09T12:21:32+08:00 - Author: 宝玉的分享 ⚡ [Prompt](https://paooo.com/ai-image-prompts/) 语宙 AI 导读 · 30 秒核心看点 * 先做提示工程建立基线，再按需求引入 RAG 或微调，避免一开始就重训练。 * RAG 适合补充新知识与控制错误率；微调更适合定制输出结构、语调和特定任务行为。 * 最佳实践是评估后迭代，必要时组合 RAG+微调，以更少 Token 获得更稳定的性能。 简述如何以可扩展的方式把大语言模型（LLMs）从原型提升至高性能 阅读目录 * [优化的双重维度](https://paooo.com/ai-study/8477/#%e4%bc%98%e5%8c%96%e7%9a%84%e5%8f%8c%e9%87%8d%e7%bb%b4%e5%ba%a6) - [1. 上下文优化](https://paooo.com/ai-study/8477/#1-%e4%b8%8a%e4%b8%8b%e6%96%87%e4%bc%98%e5%8c%96) - [2. 大语言模型行为优化](https://paooo.com/ai-study/8477/#2-%e5%a4%a7%e8%af%ad%e8%a8%80%e6%a8%a1%e5%9e%8b%e8%a1%8c%e4%b8%ba%e4%bc%98%e5%8c%96) * [探索的策略](https://paooo.com/ai-study/8477/#%e6%8e%a2%e7%b4%a2%e7%9a%84%e7%ad%96%e7%95%a5) - [提示工程：从哪里开始](https://paooo.com/ai-study/8477/#%e6%8f%90%e7%a4%ba%e5%b7%a5%e7%a8%8b%e4%bb%8e%e5%93%aa%e9%87%8c%e5%bc%80%e5%a7%8b) - [检索增强生成：拓展知识边界](https://paooo.com/ai-study/8477/#%e6%a3%80%e7%b4%a2%e5%a2%9e%e5%bc%ba%e7%94%9f%e6%88%90%e6%8b%93%e5%b1%95%e7%9f%a5%e8%af%86%e8%be%b9%e7%95%8c) - [微调：专属定制](https://paooo.com/ai-study/8477/#%e5%be%ae%e8%b0%83%e4%b8%93%e5%b1%9e%e5%ae%9a%e5%88%b6) - [结合使用微调和 RAG 的方法](https://paooo.com/ai-study/8477/#%e7%bb%93%e5%90%88%e4%bd%bf%e7%94%a8%e5%be%ae%e8%b0%83%e5%92%8c-rag-%e7%9a%84%e6%96%b9%e6%b3%95) * [实际应用在生活中的应用](https://paooo.com/ai-study/8477/#%e5%ae%9e%e9%99%85%e5%ba%94%e7%94%a8%e5%9c%a8%e7%94%9f%e6%b4%bb%e4%b8%ad%e7%9a%84%e5%ba%94%e7%94%a8) 本博客内容源自于在 [OpenAI](https://paooo.com/tag/openai/) DevDay 会议上由 Colin Jarvis 和 John Allard 所做的精彩演讲。这是相关 YouTube 视频链接 (https://www.youtube. com/watch?v=ahnGLM-RC1Y) 在自然语言处理的领域里，优化大语言模型（LLMs）的过程充满挑战。在高效与性能之间寻求 平衡，就像是在计算的海洋中找到一根针。大语言模型的性能往往难以具体衡量，需要采用 精细化的优化策略。在这篇博客中，我们将探索大语言模型优化的不同方案，帮助您了解何时 使用适当的策略。 您将获得两个关键优化维度——上下文和大语言模型行为的基础理解，并能够深入了解模型细 化的复杂世界。 ### 优化的双重维度 ![最大化大语言模型性能 [译]](https://paooo.com/wp-content/uploads/2024/08/superai. webp) #### 1. 上下文优化 上下文优化的核心在于细化模型应掌握的信息。您可以通过以下方式进行： * **提示工程（Prompt Engineering）**: 在我们的优化矩阵中，提示工程位于左下方象限， 是您迅速建立基准的关键。首先微调输入至大语言模型的提示，然后观察性能的变化。 * **检索增强生成（RAG）**: 位于左上方象限的 RAG 增加了更多上下文。可以从简单的 检索机制开始，逐步进行微调以实现更细致的优化。 #### 2. 大语言模型行为优化 深入探讨大语言模型应如何响应的行为优化。主要有两种策略： * **微调（Fine-tuning）**: 右下象限代表微调，专门针对特定任务调整大语言模型的行为。 * **综合方法**: 有时候，结合所有方法才能达到理想的性能水平。例如，将 HyDE 检索 与事实核查步骤相结合。 关键在于从某处开始，进行评估，并根据结果选择另一种策略迭代。 ### 探索的策略 #### 提示工程：从哪里开始 明确且简洁的指令，以及将复杂任务分解成更简单的子任务，对于成功至关重要。让模型有 足够的“思考时间”，并系统地测试不同方案，可以带来意想不到的提升。此外，提供参考文本 和利用外部工具，也能显著增强最终的成果。 ![最大化大语言模型性能 [译]](https://paooo.com/wp-content/uploads/2024/08/IMG20231106123922- jpg.avif) **它擅长于：** * 快速测试与学习 * 为进一步的优化建立基线 **它的限制：** * 引入新信息 * 模仿复杂的风格或方法 ![最大化大语言模型性能 [译]](https://paooo.com/wp-content/uploads/2024/08/IMG20231106124118- jpg.avif) #### 检索增强生成：拓展知识边界 通过让大语言模型 (LLMs) 接触特定领域的内容，检索增强生成（RAG）有助于更新模型的知识 库，并控制生成内容的准确性。 ![最大化大语言模型性能 [译]](https://paooo.com/wp-content/uploads/2024/08/IMG20231106124527- jpg.avif) **它擅长于：** * 引入新的、特定的信息 * 控制内容以降低错误率 **它的限制：** * 对广泛领域的理解 * 学习新的语言、格式或风格 **增强 RAG 的方法：** * 运用余弦相似度和 HyDE 进行检索 * 尝试 FT 嵌入和数据块处理 * 执行重排序和分类步骤 **评估 RAG 的标准：** * 在大语言模型方面，关注答案的准确性和相关性。 * 在内容方面，评估检索到的上下文的精准度和召回率。更多的数据并不总意味着更高的准确 度。 ![最大化大语言模型性能 [译]](https://paooo.com/wp-content/uploads/2024/08/IMG20231106125311- jpg.avif) #### 微调：专属定制 当单纯的提示设计不足以满足需求时，微调 (fine-tuning) 就显得尤为重要。继续使用特定 领域的数据进行训练，可以提升模型的性能和效率。例如，Canva 就通过对 GPT-3.5 进行微调， 成功生成了结构化的输出，这充分展示了高质量训练数据的强大作用。 ![最大化大语言模型性能 [译]](https://paooo.com/wp-content/uploads/2024/08/IMG20231106125819- jpg.avif) **微调的优势：** * 加强模型现有的知识基础 * 定制化回应的结构和语调 **微调的局限：** * 为模型增加全新的知识 * 针对新场景的快速迭代能力 **微调的步骤：** 1. 准备数据 2. 在训练期间选择合适的超参数和理解损失函数 3. 结合相关测试集和专家评价进行效果评估 **微调的最佳实践：** * 首先尝试提示设计 * 明确设立基准 * 在训练数据上注重质量而非数量 ![最大化大语言模型性能 [译]](https://paooo.com/wp-content/uploads/2024/08/IMG20231106130150- jpg.avif) #### 结合使用微调和 RAG 的方法 有时，结合使用微调和 RAG (检索式增强生成，一种 AI 技术) 可以取得最佳效果。这种结合 方法让模型以更少的 Token 理解复杂的指令，为引入更多的上下文信息创造空间，从而使性能 更加强大和稳定。 ![最大化大语言模型性能 [译]](https://paooo.com/wp-content/uploads/2024/08/IMG20231106131259- jpg.avif) ![最大化大语言模型性能 [译]](https://paooo.com/wp-content/uploads/2024/08/IMG20231106131403- jpg.avif) ![最大化大语言模型性能 [译]](https://paooo.com/wp-content/uploads/2024/08/IMG20231106131230- jpg.avif) ### 实际应用在生活中的应用 这些策略在现实生活中的应用可以非常具有创意，比如通过创造假设性的答案来增强相似性 搜索的效果。举个例子，一开始的基准测试可能只有 69% 的准确率，但通过添加一个设计精良 的答案的 RAG (检索增强型生成器)，这个数字可以提高到 84%，相当于经过微调处理的效果。 像 Scale AI 和 OpenAI 这样的合作案例，展示了如何通过结合不同方法来提升模型的效率 和效果，达到新的高度。 ![最大化大语言模型性能 [译]](https://paooo.com/wp-content/uploads/2024/08/IMG20231106130354- jpg.avif) 在微调时要小心 总的来说，要想最大化大语言模型 (LLM) 的性能，并不是一个放之四海而皆准的方案。这需要 一系列策略的组合，从提示工程 (prompt engineering) 到微调 (fine-tuning) 等，每一种 都有其独特的优势和最适应的应用场景。 🧭 文中关联 [AI 工具](https://ai.paooo.com/)官网与参数卡（语宙 AI 导航） **YouTube ↗** YouTube的核心功能远不止一个视频托管网站，它是一个集视频发现、观看、分享与创作于一体 的综合性平台。作为全球 **Canva ↗** Canva可画是功能丰富、适用场景广泛的设计工具，支持多种设计类型与多人协作，满足不同 用户需求。 ❓ 常见问题解答（FAQ） LLM 优化应该先做提示工程还是微调？ 通常先做提示工程，因为它成本低、迭代快，适合快速建立性能基线。若提示已无法满足任务 要求，再考虑 RAG 补充知识或微调定制行为与输出格式。 RAG 和微调分别适合解决什么问题？ RAG 更适合引入新知识、降低幻觉并控制回答依据；微调更适合让模型学会特定任务的输出 结构、语气和行为模式。两者并不冲突，常可组合使用。 如何评估[大模型](https://paooo.com/ai-study/)优化是否有效？ 要同时看模型答案质量和检索质量。前者关注准确性、相关性；后者关注上下文的精准度与 召回率。文章也强调，更多数据不一定带来更高准确率。 🔬 语宙深潜追问 · 进阶实操拆解 什么时候该从提示转向 RAG？ 当问题依赖最新资料、私有知识或长文档证据时，就该优先考虑 RAG。若模型只是表达不稳 或格式不对，先优化提示更划算；只有在稳定任务上仍反复失误，才考虑微调。 微调和 RAG 能怎么组合？ 常见做法是用 RAG 负责“找资料”，微调负责“按格式回答”和“遵守业务语气”。这样既能保持 知识可更新，又能让输出更稳定，适合客服、分析和企业知识问答场景。 🗳️ 读者观点微投票 · 您的实战立场是？ 提效大模型该先做提示还是 RAG？ 🕸️ 语宙向量知识图谱 · 语义强关联深度内链 [🧬 所属权威专题：RAG 知识库与模型微调 →](https://paooo.com/topics/rag-fine-tuning/) * [高效大语言模型推理 [译]](https://paooo.com/ai-study/8438/) * [大语言模型程序 [译]](https://paooo.com/ai-study/8464/) * [退一步，看得更远：通过抽象引发大语言模型中的推理 [译]](https://paooo.com/ai-study/6988/) * [构建更佳大语言模型（LLM）应用的四大要诀 [译]](https://paooo.com/ai-study/7064/) [🏛️ 宝玉的分享](https://paooo.com/author/baoyu/) · 前沿大模型翻译与提示词工程实战 分享专栏，聚焦海外一手 AI 技术动态与工程实践。 [📄 Markdown 纯净版](https://paooo.com/ai-study/8477/?format=md) 💡 这篇内容对您有启发吗？ [📡 RSS 订阅](https://paooo.com/feed/)[✨ 提交 AI 工具 / 合作](https://paooo.com/submit-tool/) **🚀 Prompt 语宙 AI 创作者生态：**探索 2,800+ 全球实用 AI 工具与高精度生图提示词 咒语库 [🧭 语宙 AI 导航 (ai.paooo.com)](https://ai.paooo.com/)[🎨 AI 生图 Prompt 库](https://paooo.com/ai-image-prompts/) [📚 核心专题导航](https://paooo.com/topics/)[⚡ AIGC 早报生成器](https://paooo.com/mtool/)