中国团队开源 Cache-to-Cache:LLM 免文字直接语义通信
Scobleizer · x · 2026-09-18
中国研究团队开源了 Cache-to-Cache(C2C)通信范式,让多个 LLM 协作时无需生成中间文字。现状是 agent 之间必须把内部「想法」翻译成文本 token 再传递,丢失语义且带来逐 token 延迟;C2C 用神经网络把源模型的 KV-cache 直接投影融合进目标模型,实现纯语义通信,并引入可学习门控机制选择哪些层最适合缓存迁移。效果:完全避开中间文本生成延迟,相比单模型准确率最高提升 14.2%。
所属事件:清华开源 C2C:模型间免文本直连 KV-Cache 推理提速 2.5 倍(2 条相关)→
「研究」频道最新
- 哈佛教授承认:AI 生成的文章评审已全面优于人类最佳水平 — iamfakhrealam · 2026-11-04
- Cohere等论文:合成预训练收益竟源于嵌入初始化偏差 — LauraRuis · 2026-11-04
- kalomaze 展示 DeepSeek V3.1 底座更大骨干实验,eval loss 降至约 0.82 — kalomaze · 2026-11-04
- Reddit 网友无梯度改写 Qwen 0.6B 权重:39.8M token 让模型「爱上一支乐队」 — Altruistic_Heat_9531 · 2026-11-04
- SpecPilot 智能体自动优化投机解码:速度从 4.46× 提升至 10.87× — pmttyji · 2026-11-04
- 自主 Agent 定制 MSA 策略,提升 AlphaFold 3 蛋白复合物预测 — SJTU · 2026-11-04