ReCache 论文：工具 Agent KV 缓存省 92% 显存，首 token 提速 3.7 倍
techNmak · x · 2026-09-08
arXiv 论文（2608.19662，Yichu Fang 等）提出 ReCache，解决 Agent 场景下工具/技能 schema 组合与顺序多变、标准前缀缓存无法复用的问题：
- 资源级注意力：为每个资源分配局部位置、去除跨资源注意力，生成组合不变的 KV 块
- 结构化路由：每个资源的 KV 仅暴露给按贡献选出的层-KV 头组
- 语义剪枝：仅保留资源名、参数名与参数描述等调用关键字段
在 7 个公开工具/技能使用数据集组成的基准（含资源不相交测试）上：资源级注意力以 82.3% vs 82.4% 的 Inv-F1 匹配稠密调用性能，同时带来 3.655 倍首 token 提速；完整框架将 KV 显存分配降低 92.43%，注意力加速 1.423 倍。代码已开源。
所属事件:ReCache 复用工具 Schema 的 KV 缓存，省 92% 显存(2 条相关)→
「编程与Agent」频道最新
- 让 Claude 全自动运营 SaaS:一周 583 个 PR,还自审出自支付漏洞 — mhmazur · 2026-09-08
- 开源企业数据上下文层 PipesHub：权限保留、引文回溯、可插拔全栈 — Effective-Ad2060 · 2026-09-08
- 南洋理工等发布 VibeGame:8 个专家 agent 团队一句话生成可玩完整游戏项目 — jiqizhixin · 2026-09-08
- Stageflow发布：分阶段隔离上下文的多阶段Agent流水线框架 — tejasghutukade · 2026-09-08
- 10个Agent明天就上岗，你知道该委派什么吗？Agent管理的真问题 — Druss_ · 2026-09-08
- 独立开发者的远程 MCP 服务器实践:26% 托管服务器被误判已死 — Luca9307 · 2026-09-08