90天实测：记忆层让Agent上下文token省23-62倍，召回率反超全量历史
No_Advertising2536 · reddit · 2026-09-16
一位记忆 API 开发者在 Reddit 发布了一份少见的带数据对照实验：用三个带 ground truth 的合成对话语料（陪伴、客服、编码助手），在 7/30/90 个模拟日下，对比「记忆层」与「每次发送全部历史」两种策略，答案模型统一用 gpt-4o-mini。
核心数据
- 上下文 token：全量历史随天数线性膨胀（90 天约 6-7.5k/请求），记忆层稳定在 120-330 token，压缩 9-62 倍
- 成本：按 $0.15/M 输入价，1000 用户×20 请求/天，90 天全量历史 $630/月 vs 记忆 $19/月
- 旧事实召回：90 天时记忆在陪伴场景 1.00 vs 0.88、客服 0.75 vs 0.38 反而更好——「全发上去」也会随长度退化
三个反直觉发现
- 客服场景 30 天时记忆惨败（召回 0.25）：抽取器把「会员号 LR-11560」存成了「有会员号」，标识符/具名实体正是记忆层的弱项
- 全量历史不是免费午餐，长上下文里答案模型找一个月前的事实只有 38% 命中
- 作者自己的 salience 过滤器把转述句「服务固定在 Python 3.12」误判为闲聊丢掉，修复后编码召回 0.75→0.88
基准、语料生成器（固定种子）、成本报告全部开源可复现。
「编程与Agent」频道最新
- General Reasoning 首发博客:详解如何用强化学习训练 Agent 集群协作 — rosstaylor90 · 2026-11-02
- 开发者指出:编码不再是瓶颈,使用量窗口才是 — kylegawley · 2026-11-02
- demo 通过≠可上线:让 Agent 接管业务前必答的五个问题 — _kellhus · 2026-11-02
- AI agent 通过 100 次测试，为何仍不能接管业务 — djgoel123 · 2026-11-02
- 让 Agent 全权创作:纯代码产出 1 分 44 秒动画短片《最后的园丁》 — ivegotnoidea1 · 2026-11-02
- 起床、用 Claude Code、睡觉：梗图调侃一天全靠它 — tekbog · 2026-11-02