上下文预算:4K 到 1M 的预设选择
预算是 token 数,不是消息条数
「设置 → 上下文」里的「默认上下文窗口」是一个 token 预算:单次请求最多携带多少 token 的对话内容。预设从 4K 到 1M 分多档,默认 32K。选大预算不是免费的——它直接抬高每次请求的费用与内存占用(本地模型尤其明显)。
预算里装了什么
一次请求的「可见内容」不止是聊天文字,官方手册列的构成是:
- 系统提示词(见标题与提示词);
- 已启用工具的定义——挂的工具越多,底噪越大;
- 附件文本或图片的存储转录;
- 当前选中分支的对话消息。
应用在本地估算这些开销,然后从最新消息往前装,装得下的完整消息进入请求——注意是「完整消息」:一轮工具调用永远不会被拦腰截断。
超预算时的行为
发消息时如果历史将超出预算,行为取决于配置:
- 开了自动 Compact:发送前先执行压缩,把旧内容摘要成胶囊,腾出空间再发(见Compact 胶囊);
- 没开:请求直接超限,模型或提供商报错——所以长对话建议开自动 Compact。
单对话覆盖
默认预算是全局的,但每条对话可以在自己的高级设置里覆盖它。实际的分工建议:
- 日常问答:小预算(8K–32K)够用且省钱;
- 长文档分析、代码库讨论:对话级开大预算;
- 本地模型:预算与内存挂钩,按模型选型的结论保守设置。
估算与实际的偏差
底栏的占用百分比是本地估算,分词器差异可能造成与提供商账单的出入——把它当「油表」而不是「里程表」,见占用指示器。
相关页面
- 超限前的自动救援细节,见Compact 胶囊;
- 预算与内存的关系,见模型选型。