Block Diffusion 让扩散语言模型也能高效复用 KV-cache
alec_helbling · x · 2026-09-11
扩散语言模型可并行生成多个 token,但迭代式解掩码会反复更新 token 状态,限制了 KV-cache 的复用。Block Diffusion 通过「从左到右逐块解码、块内并行生成」的方式恢复高效缓存,兼得扩散模型的并行性与自回归模型的缓存效率。
所属事件:Block Diffusion:扩散语言模型高效复用 KV 缓存(2 条相关)→
「研究」频道最新
- neuron-finder:消费级显卡约 5 分钟精准定位指定神经元 — pbaylies · 2026-10-28
- OpenSIR 自博弈框架:LLM 无需训练数据自学数学推理 — PMinervini · 2026-10-28
- 网友玩坏可解释性:找到了让 Qwen「发疯」的神经元 — sebkrier · 2026-10-28
- 不开向量检索也能拿 86.67%,开源记忆层 Mind 挑战 embedding 必要性 — GabrielMartinMoran · 2026-10-28
- 提议:给每篇 arXiv 论文找最短复现 prompt,度量真实信息增量 — tak3sh8 · 2026-10-28
- Piano2Pop:无需对齐监督,把钢琴 demo 自动扩展成完整流行歌 — affige_yang · 2026-10-28