实测:上下文压缩设在 50 万 token 比 100 万省三分之一成本

EricBuess · x · 2026-11-14

Eric Buess 分享长会话上下文压缩(compaction)的成本实测:把压缩点设在 50 万 token 时,每日消耗的 plan 点数约为 100 万设置的三分之一。配图数据显示:压缩点从 25 万到 100 万,plan 点数从 19 升到 31,而每日压缩次数从 27 降到 4;50 万时点数 21、压缩 10 次,再往上收益递减。原因是每次压缩后要重载约 11-13 万 token 并重写 8-10 万 token;缓存重读约 fresh token 的 1/20,但重读仍占 plan 点数约 60%。他还提到窗口过半后模型跟帖能力下降,并自称用 Opus 5.5 做无头语音会话,用热切换替代压缩。