DNeo 扩散草稿模型发布,LLM 推理提速 30%
NeuralArchitect 与 Cerebras 研究者合作推出 DNeo,一种新型扩散模型草稿生成器,可将 LLM 推理速度最高提升 30%。论文已在 Hugging Face 发布,DNeo 引入轻量级特征编码方法,并配合拒绝记忆与架构增强,通过改进 speculative diffusion 推测解码过程实现加速,为高效 LLM 推理提供了新方案。
2026-11-19 ~ 2026-11-20 · 2 条相关
- DNeo:改进并行草稿模型的目标特征编码加速推理 — cerebras · 2026-11-19
- DNeo 扩散草稿模型让 LLM 推理最快提速 30% — Scobleizer · 2026-11-20