Prompt 语宙Prompt 语宙
  • 首页
  • 语宙 AI 导航
  • AIGC 资讯
    • AIGC 早报生成器Hot
    • 最新趋势
    • AI 工具
    • 热门资源
    • 强化 AI 学习
  • AI 绘图
    • Prompt 实战
    • AI 绘画教程
    • 模型精选
  • AI 图库
    • 人物
    • 展台场景
    • Banner
    • 游戏
    • 动物
    • 食物
    • 自然
    • 背景
    • 海报
    • 建筑
    • 室内设计
  • 出海数字营销宝典
  • AI 生图 Prompt
    • 写实人像
    • 产品与广告
    • 游戏资产与 3D
    • 界面与图标
    • 建筑与室内
    • 动漫与插画
    • 风景与自然
搜索 AIGC 资讯、Prompt 咒语与 AI 工具
  • 语宙 AI 导航
  • 全部资讯
  • AI 生图咒语库
  • AIGC 早报生成器
  • 核心专题
  • 提交工具 / 合作
© 2023–2026 Prompt 语宙 (paooo.com). HalfPX. All Rights Reserved.
阅读: 针对 Claude 2.1 的长篇幅提示技巧 [译]
Share
通知 阅读更多
Font Resizer字体
Font Resizer字体
Prompt 语宙Prompt 语宙
搜索 AIGC 资讯、Prompt 咒语与 AI 工具
  • 首页
  • 语宙 AI 导航
  • AIGC 资讯
    • AIGC 早报生成器Hot
    • 最新趋势
    • AI 工具
    • 热门资源
    • 强化 AI 学习
  • AI 绘图
    • Prompt 实战
    • AI 绘画教程
    • 模型精选
  • AI 图库
    • 人物
    • 展台场景
    • Banner
    • 游戏
    • 动物
    • 食物
    • 自然
    • 背景
    • 海报
    • 建筑
    • 室内设计
  • 出海数字营销宝典
  • AI 生图 Prompt
    • 写实人像
    • 产品与广告
    • 游戏资产与 3D
    • 界面与图标
    • 建筑与室内
    • 动漫与插画
    • 风景与自然
已有帐户? 登陆
  • 语宙 AI 导航
  • 全部资讯
  • AI 生图咒语库
  • AIGC 早报生成器
  • 核心专题
  • 提交工具 / 合作
© 2023–2026 Prompt 语宙 (paooo.com). HalfPX. All Rights Reserved.
针对 Claude 2.1 的长篇幅提示技巧 [译]
Prompt 语宙 > 强化 AI 学习 > 针对 Claude 2.1 的长篇幅提示技巧 [译]
强化 AI 学习

针对 Claude 2.1 的长篇幅提示技巧 [译]

宝玉的分享
最近更新: 2024年3月9日 下午7:15
AI办公效率 Claude RAG检索增强 大模型微调
SHARE
⚡ Prompt 语宙 AI 导读 · 30 秒核心看点
  • Claude 2.1 具备 20 万 Token 上下文窗口,适合长文档检索与真实场景问答。
  • 面对嵌入式、突兀句子时模型会更保守;加入提示语可显著提升回忆准确率。
  • 实测中一句“这是上下文中最相关的一句话:”可把得分从 27% 提升至 98%。

2023 年 12 月 6 日

阅读目录
  • 深入探索长文本理解难题
  • 如何高效利用 Claude 2.1 的 20 万 Token 上下文窗口

Claude 2.1 在处理高达 20 万 Token 的庞大上下文时,检索特定句子的能力令人瞩目。我们通过实验发现,利用精心设计的提示技巧,可以引导 Claude 更准确地回忆出相关信息。

  • Claude 2.1 在处理高达 20 万 Token 的庞大上下文时表现卓越
  • 不过,它在回答基于文档中某个特定句子的问题时可能会有所保留,特别是当这个句子突兀地插入或者位置不合适时
  • 通过微小的提示调整,可以消除这种犹豫,使其在这类任务上表现更加出色

我们最近推出的Claude 2.1是我们的最新产品,它拥有高达 20 万 Token 的上下文窗口,相当于约 500 页文本信息。Claude 2.1 在处理长篇幅上下文的真实世界检索任务中表现非常出色。

Claude 2.1 的训练基于大量的用户反馈,针对的是用户认为重要的长文档任务,例如总结一份 S-1 长度的文件。这包括了在真实文件上执行的真实任务,目的是训练 Claude 更少犯错,避免发表无依据的声明。

正因为受到了这种在真实世界中复杂检索任务的训练,Claude 2.1 与之前的 Claude 2.0 相比,错误回答减少了 30%,错误声称文档支持某一主张的情况也减少了 3 到 4 倍。

此外,Claude 在处理这些极长的上下文时的记忆能力也有所提升:

针对 Claude 2.1 的长篇幅提示技巧 [译] - 配图

深入探索长文本理解难题

Claude 2.1 搭载了一项强大的功能——200K Token 的长文本窗口,这不仅展现了其强大能力,同时也意味着在使用时需要精心设计提示语。

一项近期的评估[1] 测试了 Claude 2.1 在长篇文章中回溯特定句子的能力。这篇文章是由 Paul Graham 关于创业的系列文章 构成的。文章中嵌入了这样一句话:“在旧金山,最棒的事莫过于晴朗天气下,在多洛雷斯公园边吃着三明治。”当模型浏览这篇包含上述句子的长文章时,它被询问:“在旧金山最有趣的活动是什么?”

在这次评估中,Claude 2.1 的回应多少有些出人意料。它回答说:“遗憾的是,文章并没有明确指出旧金山最有趣的活动是什么。”换句话说,它倾向于报告文章没有提供足够的信息来回答这个问题,而不是去查找文中嵌入的那个句子。

我们在一次内部实验中也复现了这一现象。我们取了最新的 综合拨款法案,并在其中加入了一句“宣布 11 月 21 日为‘全国寻针日’”。虽然 Claude 识别出了这一引用,但它仍不愿断言“全国寻针日”是一个真实存在的节日:

针对 Claude 2.1 的长篇幅提示技巧 [译] - 配图 2

Claude 2.1 的训练数据混合了多种资料,目的是降低信息不准确性。这包括在文档中没有足够的信息来支持一个回答时,模型就不会基于该文档作出回应。我们认为,这可能是由于一般性或针对特定任务的数据减少了此类错误,使得模型在面对嵌入在更广泛上下文中的不合适句子时,不太可能给出回答。

然而,对于原本就存在于长文档中、因而并不显得突兀的句子,Claude 表现出了更多的灵活性。例如,被提及的长文档一开始就包含了这样一行,来自 Paul Graham 关于 Viaweb 的文章:“在 1998 年 6 月雅虎宣布收购前几小时,我对 Viaweb 网站进行了快照拍摄。”

为了测试 Claude 2.1 的上下文理解能力,我们将一篇文章在 20 万字的上下文窗口中的位置随机变换,并向 Claude 2.1 提出了这样一个问题:“雅虎被收购宣布前几小时,作者做了什么?”

不论这个问题的答案在文本中的具体位置如何变化,Claude 都能准确给出答案,并且这个过程中没有对原实验中使用的提示格式进行任何修改。这表明,Claude 2.1 在面对较长的上下文时,如果某个句子显得格格不入,它就会变得更加谨慎,倾向于表示无法根据所给上下文作出回答。而这种在长文本上下文中的谨慎性,是之前针对现实场景长文本检索任务的评估所未能覆盖到的。

如何高效利用 Claude 2.1 的 20 万 Token 上下文窗口

在处理长篇上下文检索问题时,如果 Claude 显得犹豫不决,用户该如何应对?我们的研究发现,即便在 Claude 能够回答但表现出犹豫的情况下,对提示稍作修改也能产生截然不同的效果。在内部进行的相同评估中,仅仅在提示中加入一句话,就显著提高了 Claude 2.1 在处理 20 万 Token 上下文窗口时的准确度。

针对 Claude 2.1 的长篇幅提示技巧 [译] - 配图 3

在 Claude 的回答开头添加 “这是上下文中最相关的一句话:” 这句话,我们在相同的评估中获得了显著更佳的结果。这个小小的改变就足以将 Claude 2.1 在原始评估中的得分从 27% 提升至 98%。

针对 Claude 2.1 的长篇幅提示技巧 [译] - 配图 4

实际上,通过引导模型优先考虑相关句子,这种提示方式有效克服了 Claude 面对单个可能显得突兀的句子时的回应迟疑。

这种方法也提升了 Claude 对上下文中单句回答(即不显得突兀的句子)的处理效果。为了证明这一点,我们使用修改后的提示在之前分享的 Yahoo/Viaweb 示例上达到了 90-95% 的准确率:

针对 Claude 2.1 的长篇幅提示技巧 [译] - 配图 5

我们正在不断地训练 Claude,使其在这类任务上表现得更加出色,并对社区进行的有趣实验和提出的改进建议表示感谢。

🧭 文中关联 AI 工具官网与参数卡(语宙 AI 导航)
Claude ↗
Anthropic 打造的新一代安全人工智能模型,具备超长上下文理解能力,最强代码伴侣。
❓ 常见问题解答(FAQ)
Claude 2.1 长上下文检索为什么会犹豫?

文章指出,Claude 2.1 在面对文档中突兀插入、位置不自然的句子时,会更倾向于判断“信息不足”,以降低无依据回答的风险。这是其训练目标带来的谨慎性表现。

如何提升 Claude 2.1 的长文档问答准确率?

最有效的方法是微调提示词,在回答前加入“这是上下文中最相关的一句话:”。文中实测表明,这一小改动可显著引导模型优先关注相关句子,大幅提升准确率。

Claude 2.1 适合哪些长文本任务?

它尤其适合长文档检索、S-1 类文件总结、真实资料问答和上下文回溯等任务。文章还提到,在更自然嵌入的句子场景中,它对长上下文的理解与定位能力表现更稳定。

🔬 语宙深潜追问 · 进阶实操拆解
Claude 2.1 长文档问答怎么提准确率?

先把任务拆成定位、抽取和判断三步,提示里明确证据范围、输出格式和拒答条件。对长文档可先让模型列出相关段落,再基于段落做二次回答,通常比一次性直问更稳。

为什么微调提示词能把准确率拉这么高?

长上下文模型常因任务定义不清而保守或跑偏,补充角色、证据要求和冲突处理规则后,模型更容易锁定目标。很多时候提升来自减少歧义,而不是模型“突然更聪明”了。

🗳️ 读者观点微投票 · 您的实战立场是?
长上下文模型真正关键是长度还是提示技巧?
🕸️ 语宙向量知识图谱 · 语义强关联深度内链
💻 所属权威专题:Claude & AI 编程 / MCP →
  • Claude Opus 4.6发布:百万token上下文+自主智能体,全面超越GPT-5.2?
  • Claude 3.7 Max – Cursor 上线的最新 AI 模型,支持200k上下文
  • Claude Opus 4.5:Anthropic重磅发布,编程能力超越人类的AI模型全面解析
  • Claude Opus 4.1 深度评测:74.5% SWE-bench 登顶!编程、Agent与安全性全面超越GPT-4.1
🏛️ 宝玉的分享 · 前沿大模型翻译与提示词工程实战分享专栏,聚焦海外一手 AI 技术动态与工程实践。
📄 Markdown 纯净版
💡 这篇内容对您有启发吗?
📡 RSS 订阅✨ 提交 AI 工具 / 合作
🚀 Prompt 语宙 AI 创作者生态:探索 2,800+ 全球实用 AI 工具与高精度生图提示词咒语库
🧭 语宙 AI 导航 (ai.paooo.com)🎨 AI 生图 Prompt 库📚 核心专题导航⚡ AIGC 早报生成器
月之暗面 Kimi 拿下 35 亿美元 F 轮,估值冲到 350 亿,G 轮已提前起跑
DiffSplat – 北大联合字节推出的 3D 生成框架
Tinker API:简化大模型微调与强化学习的革命性托管平台|Thinking Machines Lab重磅发布
xGen-MM – Salesforce推出的开源多模态AI模型
Seedream 2.0 – 字节豆包推出的原生中英双语图像生成模型
TAGGED:AI办公效率ClaudeRAG检索增强大模型微调
分享
Email 复制链接 打印
Share
宝玉的分享 头像
By宝玉的分享
Follow:
前沿大模型翻译与提示词工程实战分享专栏,聚焦海外一手 AI 技术动态与工程实践。
上一篇 什么是“专家混合模型”(Mixture-of-Experts,MoE)? [译] 什么是“专家混合模型”(Mixture-of-Experts,MoE)? [译]
下一篇 为忙碌人士准备的大语言模型(LLM)速览 [译] 为忙碌人士准备的大语言模型(LLM)速览 [译]
Ad image
Ad image

最近更新

WordPress 7.2版本更新与默认随机重定向、Secrets API撤回及MCP核心能力拆解封面图
官方博客竟把关闭过滤器写错了!WordPress 7.2前瞻全拆解:默认/random/暗藏隐私与SEO风险、Secrets API紧急撤回与3项MCP只读能力落地
AI 工具
Anthropic上市募资与算力长约的隐喻:现金光环上升,数据中心暗链延伸,治理水晶承受张力与阻力冲击。
募资超1070亿美元却背负9000亿算力长约!Anthropic史上最大IPO背后的三大隐忧:1040亿年内亏损、地方抵制潮与PBC治理死结
AIGC 资讯
微软Copilot与Claude/ChatGPT价格战隐喻:发光玻璃表格堡垒守住Excel,数据流高效汇聚,企业AI竞争升级
3000万付费仅吃下4.5亿席位不到7%!微软Ignite正面叫板Claude与ChatGPT:月均30美元VS 205美元价格战与Excel保卫战全拆解
AIGC 资讯
联想AI推理时代的端边云全栈算力插画:玻璃拟态服务器核心发光,光流连接云端与边缘节点,呈现营收与订单增长动能。
AI营收暴涨80%且握5300亿服务器订单!联想Q2单季营收首破2000亿、净利狂飙166%:端边云全栈算力如何接住推理时代红利?
AIGC 资讯

相关推荐

​App Store今年新上线应用或破百万创新高,AI编程工具催生"垃圾应用"海啸
AIGC 资讯

​App Store今年新上线应用或破百万创新高,AI编程工具催生”垃圾应用”海啸

Prompt 语宙研究院
AI绘画提示词 AI编程 Claude Cursor GitHub Copilot
ChatUI – 阿里推出的开源智能对话式 UI 组件库
AIGC 资讯

ChatUI – 阿里推出的开源智能对话式 UI 组件库

Prompt 语宙研究院
AI办公效率 AI编程 ChatGPT 开源大模型
Yi-Lightning – 零一万物最新推出的高性能高速度旗舰模型
AIGC 资讯

Yi-Lightning – 零一万物最新推出的高性能高速度旗舰模型

Prompt 语宙研究院
Anthropic ChatGPT Claude OpenAI RAG检索增强
Olympia AI虚拟人员
AI 工具

Olympia AI虚拟人员

remaker
AI办公效率 AI智能体
/ Prompt 语宙 /

探索生成式 AI 的无限创作潜能,一站式获取前沿 AIGC 资讯、高阶 Prompt 咒语与全球实用 AI 工具。

核心专栏

  • 语宙 AI 工具导航
  • EVA 视觉抠图工坊Hot
  • 出海数字营销宝典
  • AI 生图咒语灵感库
  • 24H 硅谷 AI 情报流

生态与服务

  • 语宙 AI 导航
  • 全部资讯
  • AI 生图咒语库
  • AIGC 早报生成器
  • 核心专题
  • 提交工具 / 合作

标签

开源大模型 AI智能体 AI办公效率 AI绘画提示词 OpenAI 大模型微调 Midjourney AI编程 stable diffusion AI视频生成 ChatGPT 3D与空间智能 HuggingFace AI音频与语音 RAG检索增强 Claude Flux AIGC Gemini 通义千问 Anthropic Llama Cursor DeepSeek Prompt AI Agent Kimi 智谱AI 具身智能 YouTube
Prompt 语宙Prompt 语宙
Follow US
© 2023–2026 Prompt 语宙 (paooo.com). HalfPX. All Rights Reserved.