SwaT 论文上线 arXiv:跨家族 KV 缓存迁移,准确率高 40%、快 4 倍
alex_verem · x · 2026-11-12
MIT 团队在 arXiv 发布论文《Swarm Telepathy: Prefill-Free KV-Cache Transfer Across Families》(arXiv:2610.15095)。提出首个跨模型家族、免 prefill 的 KV-cache 迁移方法 SwaT,解决多智能体系统依赖文本摘要通信导致的带宽受限与冗余计算问题。
- 结合 KV 缓存压缩,较文本通信平均准确率高 40%,墙钟时间快 4 倍
- 在 12 个 LLM、6 个家族、17 个基准上表现稳定
- 可将视觉语言模型的视觉能力迁移给纯文本接收模型,且翻译器仅用文本训练
- 双方模型冻结,训练成本 <50M tokens、<1 GPU 天
所属事件:MIT 发布 SwaT：跨模型家族迁移 KV 缓存(2 条相关)→
「研究」频道最新
- IFM 发布 PAN 2：预测「下一个世界」的物理智能开源基础模型 — heyshrutimishra · 2026-11-12
- Axiom Math 形式化验证发现有限单群分类证明路径存在反例 — jiqizhixin · 2026-11-12
- SimEX:让 Agent 在仿真中自学技能,迁移到真实机器人折毛巾摆盘子 — chris_j_paxton · 2026-11-12
- 一张图讲清李括号：轮式机器人为何能「无侧滑」机动 — burny_tech · 2026-11-12
- 里程碑:PostTrainBench 上 AI 后训练成绩超过人类专家版 SmolLM3-3B — maksym_andr · 2026-11-12
- FigBrains 发文:模型进化已快过人工搭建训练环境的速度 — vsikka · 2026-11-12