用小模型打分管理 Agent 上下文,比一次性摘要更省更快

marlene_zw · x · 2026-09-23

作者分享一种 Agent 上下文管理的做法:不再用 Opus 或 GPT 做一次性摘要,而是对小模型按 4 级打分判断每段上下文——P(对目标仍然需要)、P(已被后续活动取代)、P(之后还会用到)——据此决定保留或丢弃哪些内容。作者表示还在评估最终输出质量,但此法比一次性摘要更便宜、更快,若验证有效会出视频讲解。

所属事件:用小模型打概率分管理 RAG 与 Agent 上下文(3 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →