Agora 中文文档 下载 App

占用指示器与铺开可视化

底栏油表

聊天底栏的模型条上常驻一个上下文占用估算:当前对话相对预算用了多少。三个用途:

  1. 防超限:接近 100% 时该压缩或开新对话了;
  2. 控成本:占用高意味着每次请求都携带大量内容,token 费用随之走高;
  3. 点开可手动压缩:指示器不只是显示,点开菜单里有「Compact context」入口,随时手动触发一次压缩。

它是估算,不是账单

估算在本地完成,包括系统提示词、工具定义、附件与分支内容;而提供商按自己的分词器最终计费。两者通常接近但不会严格相等——判断趋势看它,核对账单去提供商后台。

铺开可视化:把「发送范围」画出来

设置里有一个容易被错过但极有用的开关:Visualize Context Roll-Out(可视化上下文铺开)。开启后:

这解决了长对话里最常见的错觉:「我记得前面说过」——你看得到它,但模型看不到。变暗就是提示你:要么压缩(用摘要把要点带回去),要么加预算,要么手动复述关键结论。

与 Compact 的分工

两者配合的操作流:铺开可视化发现关键信息变暗 → 点开指示器触发 Compact → 摘要胶囊把要点带回可见范围。

相关页面