Agora 中文文档 下载 App

Anthropic 缓存开关:5 分钟与 1 小时的差别

这个开关只出现在一类地方

在「设置 → Providers」里选中内置 Anthropic 提供商,或任何使用 Anthropic 协议的自定义提供商,密钥区域下方会多出一个「Advanced」块,里面有「Cache」开关与「Cache Duration」选项。其他协议的提供商没有这块;把自定义提供商改成别的协议,这些控件会隐藏但数值保留,改回来还在。

它控制什么

Anthropic 服务端支持提示缓存:把较长的固定前缀(系统提示词、长文档等)缓存起来,后续请求命中缓存的部分按更低价格计费。Agora 的 Cache 开关控制的是应用是否在自己的请求里带上顶层的缓存控制标记:

时长怎么选

开关打开时出现 Cache Duration,两档可选:

没有哪个绝对省钱——计费是「缓存写入贵一点、缓存命中便宜很多」的模型。用量小、对话间隔长的,选错档位反而多花钱;不确定就用默认的 1h 观察账单。

实用判断口诀

所有改动即时保存,无需确认按钮。

相关页面