扩散语言模型改不动自己的错,NeurIPS 论文找到病灶并给出修复
burny_tech · x · 2026-09-27
一篇入选 NeurIPS 2026 的论文（arXiv:2512.15596，《Corrective Diffusion Language Models》）解释了扩散语言模型（DLM）为什么修不了自己的 bug：它们对错误 token 和正确 token 的置信度一样高，即使理论上可以对任意 token 原地重写。
关键发现
- 标准掩码扩散损失只监督 [MASK] 位置，可见 token 即使错了也拿不到梯度，导致模型置信度无法区分对错。
- 于是基于置信度的重掩码会覆盖正确的 token，却把真正的错误留在原地。
解决方案与评测
- 作者提出一个面向纠错的后训练原则：显式监督可见的错误 token，使其获得判别性置信度、支持针对性修正——只需改动训练目标一处。
- 同时发布 Code Revision Benchmark（CRB）：在 HumanEval/MBPP 解上注入类型保持的腐蚀（运算符、标识符、字面量），错误数量可控，并用执行验证每条实例确实失败，是首个面向 DLM 原地纠错的可执行基准。
- 实验显示新方法显著优于标准 MDLM，在并行解码不确定性大、需多轮精修的场景增益最明显。
「研究」频道最新
- 观点：预训练本质上是全信息反馈的单 token rollout RL — burny_tech · 2026-09-27
- 语言带宽仅约 56k 调制解调器,模型训练的只是世界的有损残影 — yunta_tsai · 2026-09-27
- 先天—经验之争或源于「学习」一词的多义性 — abenitezburraco · 2026-09-27
- 实验:LLM 的 JSON 合法≠决策一致,一致性最低仅 14.4% — tenkei_01 · 2026-09-27
- 一文梳理强化学习自博弈的演化史:从 TD-Gammon 到 AlphaGo — cephaloform · 2026-09-27
- BrushArena 直播 RL 训练全程,绘画模型实时进化可围观 — xeophon · 2026-09-27