清华团队开源 C2C:LLM 直接交换 KV-Cache,提速 2.5 倍
solyarisoftware · x · 2026-10-27
清华大学、上海AI Lab 等机构研究者开源了 Cache-to-Cache(C2C)通信框架,让多个 LLM 协作时不再通过生成文本交换信息,而是用神经网络直接投影、融合彼此的内部 KV-Cache,由可学习门控机制选择受益层。
- 现有多 LLM 系统依赖文本通信,会丢失语义信息并产生逐 token 延迟
- C2C 绕过显式文本生成,直接传递语义表征
- 实测:相比文本通信范式准确率提升约 3.1–5.4%(相对单模型 6.4–14.2%),响应延迟平均提速 2.5 倍
- 代码开源于 github.com/thu-nics/C2C
「研究」频道最新
- 传 OpenAI 25页证明 Sogge 局部光滑猜想，绕开二十年调和分析积累 — teortaxesTex · 2026-10-27
- 开源 AV3D-Harness：首个 3D 场景视听 real2sim 智能体框架 — Scobleizer · 2026-10-27
- 上海AI实验室提出S3AC：免分组rollout的actor-critic长推理训练 — Shanghai-AI-Laboratory · 2026-10-27
- Skill∞让智能体把「优化技能的方法」也写成技能，实现递归自我改进 — NationalUniversityofSingapore · 2026-10-27
- 229k 样本复现 Cohere 对 Qwen「恶意 PUT」指控:结论存疑 — builderjaydub · 2026-10-27
- AFROSCOPE 登 EMNLP：覆盖 640 种非洲语言识别，前 Frongier LLM 仅得 47.4 — mageed · 2026-10-27