缓存大纲后,报告型 agent 的 deck 生成量降了约三分之二
manan_todi44 · reddit · 2026-07-21
作者跑了几个月的周期性 reporting agent 后发现,真正省钱的不是 prompt 微调,而是把流水线中间那份稳定大纲缓存起来。
做法
- agent 仍然读取每周数据、判断变化并生成 status deck;
- 但不再每次都重新渲染整份 deck,而是先生成一个结构化 outline(标题 + 每节 3 个要点,带长度上限);
- 对这个 outline 做 hash,如果底层数据变化不足以影响大纲,就直接跳过渲染,复用上一次的 deck 链接。
效果
- 重新生成次数大约下降了 2/3;
- deck 质量没有下降,因为真正决定内容的就是这份 outline;
- 背后的限制是生成额度很小,作者的套餐大约每月只有 50 次 渲染。
作者的结论是:agent 最贵的部分,往往是你让它在“其实没变”的时候反复重做的那一段。缓存稳定产物,只为变化付费。
「编程与Agent」频道最新
- Alex Townsend 汇编 200 个数值线性代数开放问题,供人类与 AI 攻关 — IgorCarron · 2026-09-11
- Kimi K2.8 Preview 上线:性能接近 K3、1M 上下文全档开放 — teortaxesTex · 2026-09-11
- 有人想给软件工程任务建「形态分类」数据库,好按任务选模型 — StewartalsopIII · 2026-09-11
- 用 prompt 造硬件:一次对话让智能体组装定制设备寄到家 — paraschopra · 2026-09-11
- 模型之外才是关键:一文拆解 RAG 到多智能体的六大 AI 架构 — goyalshaliniuk · 2026-09-11
- 零基础开发者自建分层记忆架构,仅 20k token 记住一年对话 — matteoianni · 2026-09-11