DNeo 扩散草稿模型发布,LLM 推理提速 30%

NeuralArchitect 与 Cerebras 研究者合作推出 DNeo,一种新型扩散模型草稿生成器,可将 LLM 推理速度最高提升 30%。论文已在 Hugging Face 发布,DNeo 引入轻量级特征编码方法,并配合拒绝记忆与架构增强,通过改进 speculative diffusion 推测解码过程实现加速,为高效 LLM 推理提供了新方案。

2026-11-19 ~ 2026-11-20 · 2 条相关