清华开源 C2C：模型间跳过文字直连 KV-Cache，推理提速 2.5 倍
anselm · x · 2026-09-19
清华大学与无问芯穹等团队开源论文 C2C（Cache-to-Cache），已被 ICLR 2026 收录，代码开源。核心思路：多智能体系统中模型间通信不再经过文本解码，而是用轻量神经网络（Neural Fuser）把模型 A 的 KV-Cache 高维旋转对齐后直接融入模型 B 的 KV-Cache，省去逐字解码和重新前缀计算的开销。
- 可学习门控：不同模型层数结构不同，Gate 机制动态决定哪些层吸收外部缓存、哪些层保持独立
- 成绩：推理速度提升 2.0–2.5 倍；综合问答准确率较单模型最高提升 14.2%；比传统文本交互的多 Agent 协作高出约 5%
- 意义：保留了被文字压缩丢弃的语义细节，挑战了「LLM 必须用人类语言交流」的多 Agent 范式
所属事件:清华开源 C2C：模型间免文本直连 KV-Cache 推理提速 2.5 倍(2 条相关)→
「编程与Agent」频道最新
- 额度重置夜：Codex 恢复 100%，Claude 仅剩 10% — rudrank · 2026-11-04
- 自我改进软件不可避免：让应用读取自身信号并自动修复 — bibryam · 2026-11-04
- 攒 7 卡 132GB 显存本地推理机：EPYC 整合还是双平台？ — infectiousstupidity · 2026-11-04
- 50 人 12 国团队:创始人自称与 AI Agent 沟通多过与同事 — Scobleizer · 2026-11-04
- 极简 agent 框架 Pi 发布：四种模式可扩展，附音乐软件语音操控案例 — solyarisoftware · 2026-11-04
- Karpathy 拥抱 AI 引热议：坚持手写代码的开发者恐先被淘汰 — CtrlAltDwayne · 2026-11-04