摘要字段逐轮膨胀：月 140 万会话的 agent 成本翻四倍之谜
Good_Education4713 · reddit · 2026-10-08
一位开发者复盘其月处理 140 万会话的 9 轮客服 agent 的成本异常：
- 现象：输入 token 从第 2 轮约 5800 涨到第 9 轮 38400，单请求 p95 成本从 $0.19 升至 $0.83，且回答质量几乎没变化
- 根因：摘要器把上一轮摘要追加进新摘要而非替换，导致对话状态不断携带自身历史作为上下文重放
- 定位方法：按「摘要生成 vs 回答生成」做 span 级 token 归因，增长立刻显形
- 修复：改为每轮整体替换摘要，输入曲线拉平、质量无损；硬性 token 预算只能掩盖 bug，不能替代修复
- 遗留问题：如何给演进的对话状态设可靠上限而不丢关键细节
「编程与Agent」频道最新
- 3 个 AI Agent 优化代码被并入 SGLang-Omni 主干 — ChengleiSi · 2026-10-08
- Addy Osmani 称无需单独模型做对抗性审查，同会话即可 — addyosmani · 2026-10-08
- DuckDB 官方演示「零数据」数据库：几百 KB 管理整个数据湖 — RexDouglass · 2026-10-08
- 开发者开源 Replit 游戏 Drift 的烟雾效果,附 Agent 一键导入流程 — techartist_ · 2026-10-08
- 工程师回应 AI 代码类比:拓扑优化零件多为好看不中用 — rms80 · 2026-10-08
- Massive 数据接入 AI agent,经 x402 按次付费每次仅一美分 — kleffew94 · 2026-10-08