清华等提出智能体缓存工程,KV缓存成本降近三成

清华与港中文团队发布论文《Cache Engineering for Agents》,提出让智能体直接管理 KV 缓存的新方案,把思路从 agentic context engineering 推进到 agentic cache engineering。现有方法通过裁剪或总结历史来压缩上下文,但前缀变化会使缓存失效;新方案免改轨迹直接操控 KV 缓存。实验显示 KV 缓存成本降低 27.7%,P95 延迟提速 1.5 倍,另有改进思路可再省 7.1% 成本,dairai 等社区账号也进行了推介讨论。

2026-10-22 ~ 2026-10-22 · 4 条相关

• 清华团队提出 Agent 缓存工程,KV 缓存成本降 27.7% — dair_ai · 2026-10-22
• 清华提出 Cache Engineering：Agent 免改轨迹直接操控 KV 缓存 — nics-efc · 2026-10-22
• Agentic Cache Engineering：让智能体自管 KV Cache，再省 7.1% 成本 — mrdrozdov · 2026-10-22

另有 1 条近重复转述:kalyan_kpl