共享 KV cache Transformer 论文发布,融合 LCKV/CLA/Huginn 三条路线
BlackHC · x · 2026-10-06
BlackHC 补充发布了论文链接:该工作在 LCKV(末层 cache + KV 匹配)、CLA(跨层复用)与 Huginn(循环深度)基础上,用 LSTM 单元在绑定核心中测试 cache-history mismatch 与修复,并称目前受算力限制、欢迎合作探索。
这是对上一条共享核心 KV cache 架构推文的论文补充,提供 arXiv 链接与相关工作对照,可据此复现或扩展该方向。
所属事件:BlackHC 离职首作:共享 KV cache 的绑定 Transformer(8 条相关)→
「Infra」频道最新
- 电力缺口成数据中心扩张瓶颈:2030 年需求激增、基建跟不上 — DavidLinthicum · 2026-10-06
- Beam 首个模型开源:501B-A23B 文本 MoE,Apache 2.0 全栈放发 — brandondamos · 2026-10-06
- Vultr 斥资 12 亿美元订购 AMD Helios AI 机架,客户提前数年锁算力 — shashib · 2026-10-06
- NanoGPT speedrun 刷新纪录:速度提升 11.3%,论文即将发布 — yoavartzi · 2026-10-06
- NVIDIA CANTO:直接从 CAD 参数化曲面预测气动场 — JeanKossaifi · 2026-10-06
- Epoch 估算:2027 年底算力可支撑数亿乃至数十亿 AI 智能体 — Jsevillamol · 2026-10-06