Agora 中文文档 下载 App

上下文预算:4K 到 1M 的预设选择

预算是 token 数,不是消息条数

「设置 → 上下文」里的「默认上下文窗口」是一个 token 预算:单次请求最多携带多少 token 的对话内容。预设从 4K 到 1M 分多档,默认 32K。选大预算不是免费的——它直接抬高每次请求的费用与内存占用(本地模型尤其明显)。

预算里装了什么

一次请求的「可见内容」不止是聊天文字,官方手册列的构成是:

应用在本地估算这些开销,然后从最新消息往前装,装得下的完整消息进入请求——注意是「完整消息」:一轮工具调用永远不会被拦腰截断。

超预算时的行为

发消息时如果历史将超出预算,行为取决于配置:

单对话覆盖

默认预算是全局的,但每条对话可以在自己的高级设置里覆盖它。实际的分工建议:

估算与实际的偏差

底栏的占用百分比是本地估算,分词器差异可能造成与提供商账单的出入——把它当「油表」而不是「里程表」,见占用指示器。

相关页面