学者探讨扩散语言模型：dLLM 能否颠覆传统 AR 架构？

mblondel_ml · x · 2026-08-10

Junbo Zhao 撰文回顾了过去一年扩散语言模型的发展，涵盖 LLaDA-MoE 到 LLaDA 2.2 的演进，并探讨了 dLLM 相较于自回归（AR）模型的核心优势与未来生态定位。

研究员 Mathieu Blondel 在转发评论中指出，dLLM 在编辑、填充和结构化生成等方面的诸多优势，实际上也可以通过“思考型 AR 模型”实现。两者的关键区别在于：dLLM 能够原地进行修改，而 AR 模型则需要依赖上下文窗口作为“磁带”来记录和延展，这往往会导致上下文窗口变得越来越大。