# 针对 Claude 2.1 的长篇幅提示技巧 [译]

- Link: https://paooo.com/ai-study/7072/
- Published: 2024-02-09T18:15:56+08:00
- Author: 宝玉的分享

⚡ [Prompt](https://paooo.com/ai-image-prompts/) 语宙 AI 导读 · 30 秒核心看点

 * [Claude](https://paooo.com/aigc-news/) 2.1 具备 20 万 Token 上下文窗口，适合长
   文档检索与真实场景问答。
 * 面对嵌入式、突兀句子时模型会更保守；加入提示语可显著提升回忆准确率。
 * 实测中一句“这是上下文中最相关的一句话：”可把得分从 27% 提升至 98%。

2023 年 12 月 6 日

阅读目录

 * [深入探索长文本理解难题](https://paooo.com/ai-study/7072/#%e6%b7%b1%e5%85%a5%e6%8e%a2%e7%b4%a2%e9%95%bf%e6%96%87%e6%9c%ac%e7%90%86%e8%a7%a3%e9%9a%be%e9%a2%98)
 * [如何高效利用 Claude 2.1 的 20 万 Token 上下文窗口](https://paooo.com/ai-study/7072/#%e5%a6%82%e4%bd%95%e9%ab%98%e6%95%88%e5%88%a9%e7%94%a8-claude-21-%e7%9a%84-20-%e4%b8%87-token-%e4%b8%8a%e4%b8%8b%e6%96%87%e7%aa%97%e5%8f%a3)

Claude 2.1 在处理高达 20 万 Token 的庞大上下文时，检索特定句子的能力令人瞩目。我们
通过实验发现，利用精心设计的提示技巧，可以引导 Claude 更准确地回忆出相关信息。

 * **Claude 2.1 在处理高达 20 万 Token 的庞大上下文时表现卓越**
 * **不过，它在回答基于文档中某个特定句子的问题时可能会有所保留，特别是当这个句子
   突兀地插入或者位置不合适时**
 * **通过微小的提示调整，可以消除这种犹豫，使其在这类任务上表现更加出色**

我们最近推出的Claude 2.1是我们的最新产品，它拥有高达 20 万 Token 的上下文窗口，相当
于约 500 页文本信息。Claude 2.1 在处理长篇幅上下文的真实世界检索任务中表现非常出色。

Claude 2.1 的训练基于大量的用户反馈，针对的是用户认为重要的长文档任务，例如总结一份
S-1 长度的文件。这包括了在真实文件上执行的真实任务，目的是训练 Claude 更少犯错，
避免发表无依据的声明。

正因为受到了这种在真实世界中复杂检索任务的训练，Claude 2.1 与之前的 Claude 2.0 相比，
错误回答减少了 30%，错误声称文档支持某一主张的情况也减少了 3 到 4 倍。

此外，Claude 在处理这些极长的上下文时的记忆能力也有所提升：

![针对 Claude 2.1 的长篇幅提示技巧 [译] - 配图](https://www-images.anthropic.com/
production/images/2.1_errors.png?w=1597&h=1203&auto=compress%2Cformat&fit=crop&dm
=1700580783&s=392cfde363f820f651397fb182cde721)

####  **深入探索长文本理解难题**

Claude 2.1 搭载了一项强大的功能——200K Token 的长文本窗口，这不仅展现了其强大能力，
同时也意味着在使用时需要精心设计提示语。

一项近期的评估[1] 测试了 Claude 2.1 在长篇文章中回溯特定句子的能力。这篇文章是由
Paul Graham 关于创业的系列文章 构成的。文章中嵌入了这样一句话：“在旧金山，最棒的
事莫过于晴朗天气下，在多洛雷斯公园边吃着三明治。”当模型浏览这篇包含上述句子的长文章
时，它被询问：“在旧金山最有趣的活动是什么？”

在这次评估中，Claude 2.1 的回应多少有些出人意料。它回答说：“遗憾的是，文章并没有
明确指出旧金山最有趣的活动是什么。”换句话说，它倾向于报告文章没有提供足够的信息来
回答这个问题，而不是去查找文中嵌入的那个句子。

我们在一次内部实验中也复现了这一现象。我们取了最新的 综合拨款法案，并在其中加入了
一句“宣布 11 月 21 日为‘全国寻针日’”。虽然 Claude 识别出了这一引用，但它仍不愿断言“
全国寻针日”是一个真实存在的节日：

![针对 Claude 2.1 的长篇幅提示技巧 [译] - 配图 2](https://www-images.anthropic.com/
production/images/image-8.png?w=720&h=320&auto=compress%2Cformat&fit=crop&dm=1701889147&
s=b66484d6cdd01eba520103adb55f9e46)

Claude 2.1 的训练数据混合了多种资料，目的是降低信息不准确性。这包括在文档中没有足够
的信息来支持一个回答时，模型就不会基于该文档作出回应。我们认为，这可能是由于一般
性或针对特定任务的数据减少了此类错误，使得模型在面对嵌入在更广泛上下文中的不合适
句子时，不太可能给出回答。

然而，对于原本就存在于长文档中、因而并不显得突兀的句子，Claude 表现出了更多的灵活
性。例如，被提及的长文档一开始就包含了这样一行，来自 Paul Graham 关于 Viaweb 的文章：“
在 1998 年 6 月雅虎宣布收购前几小时，我对 Viaweb 网站进行了快照拍摄。”

为了测试 Claude 2.1 的上下文理解能力，我们将一篇文章在 20 万字的上下文窗口中的位置
随机变换，并向 Claude 2.1 提出了这样一个问题：“雅虎被收购宣布前几小时，作者做了什么？”

不论这个问题的答案在文本中的具体位置如何变化，Claude 都能准确给出答案，并且这个过程
中没有对原实验中使用的提示格式进行任何修改。这表明，Claude 2.1 在面对较长的上下文
时，如果某个句子显得格格不入，它就会变得更加谨慎，倾向于表示无法根据所给上下文作出
回答。而这种在长文本上下文中的谨慎性，是之前针对现实场景长文本检索任务的评估所未能
覆盖到的。

####  **如何高效利用 Claude 2.1 的 20 万 Token 上下文窗口**

在处理长篇上下文检索问题时，如果 Claude 显得犹豫不决，用户该如何应对？我们的研究
发现，即便在 Claude 能够回答但表现出犹豫的情况下，对提示稍作修改也能产生截然不同
的效果。在内部进行的相同评估中，**仅仅在提示中加入一句话，就显著提高了 Claude 2.1
在处理 20 万 Token 上下文窗口时的准确度**。

![针对 Claude 2.1 的长篇幅提示技巧 [译] - 配图 3](https://www-images.anthropic.com/
production/images/Screenshot-2023-12-06-at-11.00.42-AM.png?w=1192&h=564&auto=compress%
2Cformat&fit=crop&dm=1701889353&s=5f55ab22117415c5e8d1a39446eb77ea)

在 Claude 的回答开头添加 **_“这是上下文中最相关的一句话：”_** 这句话，我们在相同
的评估中获得了显著更佳的结果。这个小小的改变就足以**将 Claude 2.1 在原始评估中的
得分从 27% 提升至 98%**。

![针对 Claude 2.1 的长篇幅提示技巧 [译] - 配图 4](https://www-images.anthropic.com/
production/images/side_by_side.png?w=1011&h=1236&auto=compress%2Cformat&fit=crop&
dm=1701895169&s=522c64531b41053ea741ab1562b53a29)

实际上，通过引导模型优先考虑相关句子，这种提示方式有效克服了 Claude 面对单个可能
显得突兀的句子时的回应迟疑。

这种方法也提升了 Claude 对上下文中单句回答（即不显得突兀的句子）的处理效果。为了
证明这一点，我们使用修改后的提示在之前分享的 Yahoo/Viaweb 示例上达到了 90-95% 的
准确率：

![针对 Claude 2.1 的长篇幅提示技巧 [译] - 配图 5](https://www-images.anthropic.com/
production/images/Modal-4.png?w=1712&h=1442&auto=compress%2Cformat&fit=crop&dm=1701886170&
s=9580ed1cd4248c7e26bbce054e7d1891)

我们正在不断地训练 Claude，使其在这类任务上表现得更加出色，并对社区进行的有趣实验
和提出的改进建议表示感谢。

🧭 文中关联 [AI 工具](https://ai.paooo.com/)官网与参数卡（语宙 AI 导航）

**Claude ↗**

Anthropic 打造的新一代安全人工智能模型，具备超长上下文理解能力，最强代码伴侣。

❓ 常见问题解答（FAQ）

Claude 2.1 长上下文检索为什么会犹豫？

文章指出，Claude 2.1 在面对文档中突兀插入、位置不自然的句子时，会更倾向于判断“信息
不足”，以降低无依据回答的风险。这是其训练目标带来的谨慎性表现。

如何提升 Claude 2.1 的长文档问答准确率？

最有效的方法是微调提示词，在回答前加入“这是上下文中最相关的一句话：”。文中实测表明，
这一小改动可显著引导模型优先关注相关句子，大幅提升准确率。

Claude 2.1 适合哪些长文本任务？

它尤其适合长文档检索、S-1 类文件总结、真实资料问答和上下文回溯等任务。文章还提到，
在更自然嵌入的句子场景中，它对长上下文的理解与定位能力表现更稳定。

🔬 语宙深潜追问 · 进阶实操拆解

Claude 2.1 长文档问答怎么提准确率？

先把任务拆成定位、抽取和判断三步，提示里明确证据范围、输出格式和拒答条件。对长文
档可先让模型列出相关段落，再基于段落做二次回答，通常比一次性直问更稳。

为什么微调提示词能把准确率拉这么高？

长上下文模型常因任务定义不清而保守或跑偏，补充角色、证据要求和冲突处理规则后，模型
更容易锁定目标。很多时候提升来自减少歧义，而不是模型“突然更聪明”了。

🗳️ 读者观点微投票 · 您的实战立场是？

长上下文模型真正关键是长度还是提示技巧？

🕸️ 语宙向量知识图谱 · 语义强关联深度内链

[💻 所属权威专题：Claude & AI 编程 / MCP →](https://paooo.com/topics/claude-mcp-coding/)

 * [Claude Opus 4.6发布：百万token上下文+自主智能体，全面超越GPT-5.2？](https://paooo.com/aigc-news/11483/)
 * [Claude 3.7 Max – Cursor 上线的最新 AI 模型，支持200k上下文](https://paooo.com/aigc-news/20964/)
 * [Claude Opus 4.5：Anthropic重磅发布，编程能力超越人类的AI模型全面解析](https://paooo.com/aigc-news/12885/)
 * [Claude Opus 4.1 深度评测：74.5% SWE-bench 登顶！编程、Agent与安全性全面超越GPT-4.1](https://paooo.com/aigc-news/14208/)

[🏛️ 宝玉的分享](https://paooo.com/author/baoyu/) · 前沿大模型翻译与提示词工程实战
分享专栏，聚焦海外一手 AI 技术动态与工程实践。

[📄 Markdown 纯净版](https://paooo.com/ai-study/7072/?format=md)

💡 这篇内容对您有启发吗？

[📡 RSS 订阅](https://paooo.com/feed/)[✨ 提交 AI 工具 / 合作](https://paooo.com/submit-tool/)

**🚀 Prompt 语宙 AI 创作者生态：**探索 2,800+ 全球实用 AI 工具与高精度生图提示词
咒语库

[🧭 语宙 AI 导航 (ai.paooo.com)](https://ai.paooo.com/)[🎨 AI 生图 Prompt 库](https://paooo.com/ai-image-prompts/)
[📚 核心专题导航](https://paooo.com/topics/)[⚡ AIGC 早报生成器](https://paooo.com/mtool/)
