Agent上下文压缩可降半数成本
appenz · x · 2026-07-14
这条讨论的是 agent 上下文压缩（compact）：当 agent 因长时间不活动而产生 cache miss 时，先做一次压缩可以让 token 成本降低 50% 以上。
关键点：
- 他们用真实的 Fable 5 trace 做了模拟，发现如果把上下文维持在 128k–256k tokens，总体花费会从二次增长变成接近线性增长。
- 问题是：自我总结本身很慢，长 trace 上要 1–2 分钟。
- 为此团队训练了一个“极快”的压缩模型 Relace Compact，把 token-level classification 做到 50k tok/s，成本也低于 cache read。
- 成本大约是 $0.20 / million input 和 $0.20 / million output tokens。
- 他们已把它接入 Jacq，也提供文档供集成到其他产品里。
这条对做 agent 工作流、上下文管理和推理成本优化的人很有参考价值。
所属事件:Relace推出Compact模型，5秒极速压缩Agent上下文降本提速(3 条相关)→
「编程与Agent」频道最新
- BELL stack 开源：浏览器+Agent 框架+iMessage+支付，一套搭个人智能体 — jeff_weinstein · 2026-10-27
- 法律 AI 公司 Legora 在 Modal 上并行跑 2000 个 agent eval — blelbach · 2026-10-27
- 两名工程师用 AI 3.5 个月重建 FedEx 供应商计费核心,原估 7-8 个月 — alex_verem · 2026-10-27
- AA 实测 GPT-6.1 Terra:编码 Agent 得 48 分,成本仅前代三分之一 — ArtificialAnlys · 2026-10-27
- Shift-1 模型路由器发布：编码 Agent 成本最高降 55% — ypatil125 · 2026-10-27
- 零基础用户用 Claude Code 两周 vibe coding 出一款 Godot JRPG — ADHDavid · 2026-10-27