Anthropic 缓存开关:5 分钟与 1 小时的差别
这个开关只出现在一类地方
在「设置 → Providers」里选中内置 Anthropic 提供商,或任何使用 Anthropic 协议的自定义提供商,密钥区域下方会多出一个「Advanced」块,里面有「Cache」开关与「Cache Duration」选项。其他协议的提供商没有这块;把自定义提供商改成别的协议,这些控件会隐藏但数值保留,改回来还在。
它控制什么
Anthropic 服务端支持提示缓存:把较长的固定前缀(系统提示词、长文档等)缓存起来,后续请求命中缓存的部分按更低价格计费。Agora 的 Cache 开关控制的是应用是否在自己的请求里带上顶层的缓存控制标记:
- 开(默认):请求携带缓存标记,适合直连官方端点;
- 关:不带标记,适合中转服务自己管理缓存的场景——中转已经打了标记,你再加一层可能互相干扰。
时长怎么选
开关打开时出现 Cache Duration,两档可选:
- 5m:短缓存,适合一次性密集对话(连续提问的场景,几分钟内多轮命中);
- 1h:默认选项,长缓存,适合系统提示词很大、一整天断断续续用同一前缀的场景。
没有哪个绝对省钱——计费是「缓存写入贵一点、缓存命中便宜很多」的模型。用量小、对话间隔长的,选错档位反而多花钱;不确定就用默认的 1h 观察账单。
实用判断口诀
- 直连官方、系统提示词固定 → 开,1h;
- 直连官方、临时性短对话 → 开,5m;
- 走中转、中转说明里提到它管缓存 → 关;
- 完全不确定 → 保持默认(开 + 1h),它至少不会让请求失败。
所有改动即时保存,无需确认按钮。
相关页面
- Anthropic 提供商怎么配密钥,回看添加第一个 API 密钥;
- 缓存省的是钱,省 token 靠的是Compact 胶囊。