# OpenRouter推出全新技术：多轮 Agent 调用成本最高可砍到 1.75 倍

- Link: https://paooo.com/aigc-news/35122/
- Published: 2026-07-22T11:54:03+08:00
- Author: Prompt 语宙研究院

⚡ [Prompt](https://paooo.com/ai-image-prompts/) 语宙 AI 导读 · 30 秒核心看点

 * Prompt Caching 让多轮会话中的重复提示词按缓存价计费，直击[智能体](https://paooo.com/trends/)
   成本黑洞。
 * Sticky Routing 通过固定到同一热缓存提供商，避免跨轮次漂移导致缓存失效。
 * 实操上优先用 session_id、稳定开头消息顺序，并检查 cached_tokens 判断是否命中。

多轮对话中，智能体每一轮都要重复发送相同的系统提示词、工具定义、架构和策略指令。
一个 6 轮会话里，即使唯一变化的是用户最新消息或工具返回结果，开头那段重复内容仍可能
被计费 6 次。OpenRouter 近日推出的 Prompt Caching 配合 Sticky Routing，正是为了解决
这一成本黑洞。

Prompt Caching 的核心逻辑是：服务提供商从缓存中读取提示词中重复的部分，而非每次都
按全价收费。Sticky Routing 则通过将会话固定到持有热缓存的同一提供商，使这一机制在
跨轮次中持续生效。

**缓存读取成本为正常输入的 0.1 到 0.5 倍**

缓存读取价格因提供商而异。Anthropic Claude Sonnet 4.6 上，缓存读取为每百万 token
0.30 美元，而输入价格为 3.00 美元，恰好是 0.1 倍。[DeepSeek](https://paooo.com/?s=DeepSeek)
和阿里通义千问同样提供 0.1 倍读取价格；OpenAI 为 0.25 至 0.5 倍；Gemini、Grok、月
之暗面为 0.25 倍；Groq 为 0.5 倍。

但缓存并非免费午餐。首次请求需要支付缓存写入费用，且部分提供商的写入成本高于普通
输入。Anthropic 默认 5 分钟 TTL 的写入成本是输入价格的 1.25 倍，1 小时 TTL 则为 
2.0 倍——一次从未被复用的写入，成本反而比不用缓存更高。[OpenAI](https://paooo.com/tag/openai/)
GPT-5.6 及之后版本写入成本为 1.25 倍输入价格。Google Gemini、Grok、月之暗面、Groq
的写入则免费。

**热缓存的隐形陷阱：提供商漂移**

缓存写入后，如果下一轮请求被路由到不同提供商，热缓存便失效。OpenRouter 支持 70 多个
提供商，第二轮命中冷端点的概率并不低。这就是 Sticky Routing 的价值所在——在缓存请求
后，当该提供商的缓存读取价格低于常规输入时，后续请求会被固定回同一端点。若该提供
商不可用，则回退到下一个可用端点，而非让请求失败。

默认情况下，OpenRouter 通过哈希对话的第一条系统消息和第一条非系统消息来识别会话。
但智能体常在轮次间重写开头消息（如总结状态、重新排序工具上下文），导致哈希值变化、
会话漂移。解决方案是使用显式的 `session_id`。设置后，OpenRouter 直接将其作为粘性
路由键，粘性在首次成功请求后即生效，而非等到缓存命中后才启动。`session_id` 可作为
请求体顶层字段或 `x-session-id` 请求头发送，需在整个对话期间保持稳定，控制在 256
字符以内。

**缓存未命中的四大原因**

一是提示词低于提供商最低要求。Anthropic Claude Opus 4.5–4.8 和 Haiku 4.5 需 4096
token，Haiku 3.5 需 2048 token，Sonnet 4/4.5/4.6 和 Opus 4/4.1 需 1024 token；OpenAI
需 1024 token；Gemini 2.5 Pro 需 4096 token，Flash 需 1024 token。

二是缓存过期。Anthropic 默认 5 分钟，可选 1 小时；Gemini 隐式缓存约 3–5 分钟且读
取时不重置 TTL。

三是提示词开头不断变化。应将稳定内容（系统指令、工具、模式、参考资料）放在前面，
变化内容（用户问题、时间戳、工具输出）放在后面。第一条系统消息中的时间戳会让每一轮
提示词看起来都是新的，如非必要应移至后面的消息中。

四是请求被路由到不同提供商。智能体工作流应设置 `session_id` 并依赖粘性路由保持会话
在已预热的提供商上。若自行设置 `provider.order`，会覆盖粘性路由。

![6392031619147094941886598.png](https://paooo.com/wp-content/uploads/2026/07/6392031724209735435895037-
1.avif "6392031619147094941886598.png")

节省的成本随轮次增加而增长。对于多轮对话，当重复使用的内容随对话增长时，使用自动
缓存；当确切知道哪些大块内容应被缓存时（如检索文档、长参考文件、角色卡、CSV 数据），
使用显式缓存断点；对于智能体会话、支持工单、聊天线程、工作流运行，以及开场消息可能
在轮次间变化的对话，使用 `session_id`；对于较长的 Anthropic 会话，当默认 5 分钟缓
存可能过期时，使用 1 小时缓存。

确认缓存是否生效，可检查响应中 `usage.prompt_tokens_details.cached_tokens` 字段，
大于零即命中；`cache_write_tokens` 显示写入量；`cache_discount` 可查看单次生成的
成本影响。这些信息也可在 Activity 页面或 `/api/v1/generation` API 中获取。

🧭 文中关联 AI 工具官网与参数卡（语宙 AI 导航）

**OpenRouter ↗**

AI 模型 API 聚合平台，一个接口调用400多个模型。

**Google Gemini ↗**

Google Gemini 是一款由 Google 提供的智能 AI 助手，可协助处理工作、学习和家庭事务。

**Anthropic ↗**

Anthropic：人工智能安全和研究公司，面向大语言模型场景提供便捷实用的在线功能支持，
涵盖智能工具等实用方向

❓ 常见问题解答（FAQ）

OpenRouter 的 Prompt Caching 怎么降低多轮对话成本？

它会把系统提示词、工具定义等重复内容从缓存读取，而不是每轮按全价输入计费。对多轮
智能体尤其有效，重复内容越多、轮次越长，节省越明显。

Sticky Routing 和 session_id 有什么区别？

Sticky Routing 是把会话固定到持有热缓存的同一提供商；session_id 则是显式指定会话
粘性键，避免因消息开头变化导致哈希漂移。对智能体会话更稳妥。

怎么判断 OpenRouter 的缓存是否真的命中？

查看响应里的 usage.prompt_tokens_details.cached_tokens，大于 0 说明命中；cache_write_tokens
表示写入量，cache_discount 可看单次生成的成本影响。

🔬 语宙深潜追问 · 进阶实操拆解

Prompt Caching 最适合缓存哪些内容？

最适合缓存长系统提示词、工具定义、固定规则和大段上下文前缀。把高重复、低变化内容
放进缓存，能显著降低多轮会话成本；但频繁变化的用户输入和任务状态不适合强行缓存。

Sticky Routing 为什么会影响成本和延迟？

它能把同一会话尽量路由到同一后端，提升缓存命中率，减少重复预热和上下文重算。对长
会话 Agent 特别有用，但要注意容灾与负载均衡，避免单点拥塞或会话粘连过强。

🗳️ 读者观点微投票 · 您的实战立场是？

Agent 多轮调用降本，真能改变产品架构吗？

🕸️ 语宙向量知识图谱 · 语义强关联深度内链

[🏮 所属权威专题：国产大模型选型与资费对比 →](https://paooo.com/topics/domestic-llm-ecosystem/)

 * [9Router深度评测：开源AI编程路由神器，智能调度100+模型，Token成本直降40% | 开发者必备工具](https://paooo.com/aigc-news/10613/)
 * [OpenRouter把语音转录塞进同一个API：一份key搞定聊天和转写，Whisper与按token计价STT一并接入](https://paooo.com/aigc-news/37819/)
 * [Cursor Router – Cursor推出面向团队和企业的智能模型路由器](https://paooo.com/aigc-news/38737/)
 * [估值一年翻倍！AI网关巨头OpenRouter获谷歌1.13亿美元投资，揭示多模型调度万亿市场](https://paooo.com/aigc-news/17838/)

[🏛️ Prompt 语宙研究院](https://paooo.com/author/paooo-research/) · Prompt 语宙研究院（
paooo.com Research）专注于前沿多模态大模型架构拆解、AI Agent 工作流评测、AIGC 提示
词工程（Prompt Engineering）与全球高增长 AI 生产力工具实测追踪，致力于为中文开发
者与创作者提供一手、可复现的深度技术洞察。

[📄 Markdown 纯净版](https://paooo.com/aigc-news/35122/?format=md)

💡 这篇内容对您有启发吗？

[📡 RSS 订阅](https://paooo.com/feed/)[✨ 提交 AI 工具 / 合作](https://paooo.com/submit-tool/)

**🚀 Prompt 语宙 AI 创作者生态：**探索 2,800+ 全球实用 AI 工具与高精度生图提示词
咒语库

[🧭 语宙 AI 导航 (ai.paooo.com)](https://ai.paooo.com/)[🎨 AI 生图 Prompt 库](https://paooo.com/ai-image-prompts/)
[📚 核心专题导航](https://paooo.com/topics/)[⚡ AIGC 早报生成器](https://paooo.com/mtool/)
