离散扩散模型统一框架
5a-academia-attractions · hf · 2026-07-16
这篇内容提出一个关于**离散扩散模型（DDM）**的统一框架，把不同做法放进同一设计空间来理解：从**tokenization** 到生成，离散状态空间的构造方式决定了模型行为。 文中指出，现有的 transition-matrix、masking/absorbing-state、score/ratio-based 等方法，本质上可以看作同一框架下的不同实例；并进一步梳理了它们在训练目标、推理算法、扩展性、系统优化和评测协议上的权衡与差异，最后给出若干未来研究方向。