Compact 胶囊:长对话的摘要压缩
Compact 解决什么问题
对话越长,历史越占预算:要么爆预算报错,要么忍痛开新对话丢上下文。Context Compact 的思路是摘要替换:把较旧的一段历史压缩成一份摘要(装进一个「胶囊」),近期消息保持原样——上下文立刻变小,关键结论还在。
两个原则让它区别于粗暴的「截断」:
- 原消息不删:压缩只是生成了一份摘要,完整历史仍在对话树里;
- 近期原样保留:预算允许范围内的最新消息一字不发送漏。
自动与手动
- 自动 Compact:在设置里开启后,发送前若检测到将要超预算,压缩自动执行——无感,推荐长对话用户常开;
- 手动 Compact:点开底栏占用指示器选「Compact context」,随时主动压一次。
压缩本身也是一次生成,用压缩模型完成;默认跟随当前对话模型,也可以指定一个便宜的模型专职压缩(省钱技巧)。生成期间的排队规则与普通回复一致(见发送与停止)。
可调的三个参数
「设置 → 上下文」里与 Compact 相关的配置:
| 参数 | 作用 |
|---|---|
| 压缩模型 | 指定专职摘要的模型 |
| 保留近期条数 | 压缩边界之后原样保留的消息数,0 到 20 条 |
| 压缩提示词 | 摘要的指导语,决定摘要侧重什么 |
胶囊的管理
对话里的胶囊可以点开阅读摘要内容;溢出菜单提供重新压缩与删除:
- 删除胶囊只是移除这个摘要边界,前后消息重新接上,不会删掉原始消息;
- 对摘要不满意可以重新压缩一次。
一句务实提醒
摘要是模型生成的二手信息,可能失真——长期项目的关键事实(结论、数字、约定)建议复核胶囊内容,或用记忆系统单独固化。