Agora 中文文档 下载 App

Compact 胶囊:长对话的摘要压缩

Compact 解决什么问题

对话越长,历史越占预算:要么爆预算报错,要么忍痛开新对话丢上下文。Context Compact 的思路是摘要替换:把较旧的一段历史压缩成一份摘要(装进一个「胶囊」),近期消息保持原样——上下文立刻变小,关键结论还在。

两个原则让它区别于粗暴的「截断」:

自动与手动

压缩本身也是一次生成,用压缩模型完成;默认跟随当前对话模型,也可以指定一个便宜的模型专职压缩(省钱技巧)。生成期间的排队规则与普通回复一致(见发送与停止)。

可调的三个参数

「设置 → 上下文」里与 Compact 相关的配置:

参数作用
压缩模型指定专职摘要的模型
保留近期条数压缩边界之后原样保留的消息数,0 到 20 条
压缩提示词摘要的指导语,决定摘要侧重什么

胶囊的管理

对话里的胶囊可以点开阅读摘要内容;溢出菜单提供重新压缩与删除:

一句务实提醒

摘要是模型生成的二手信息,可能失真——长期项目的关键事实(结论、数字、约定)建议复核胶囊内容,或用记忆系统单独固化。

相关页面