清华与港中文提出 Cache Engineering,Agent 降本还提效

清华大学与香港中文大学研究者发布论文《Cache Engineering for Agents》,指出对旧消息做裁剪或摘要等 context engineering 操作反而会使 KV cache 失效、触发重算,增加算力开销。他们提出直接管理 KV 缓存的新方案,在不修改对话历史的前提下优化缓存,实验显示 Agent 成本降低 27.7%,性能还提升 1.7%。

2026-10-28 ~ 2026-10-28 · 2 条相关

另有 1 条近重复转述:TheTuringPost