Unmask the State: When Does State Adaptation Matter for Masked Diffusion Language Models
Injin Kong, Sunghwan Choi, Yohan Jo
cs.AI
2026-09-27
把 MDM 解码拆成五轴测自适应机会,发现高度不均;只在少数高机会状态偏离固定策略,端到端最高提 5.6 分。
MDM(masked diffusion model,掩码扩散语言模型)不走自回归那条从左到右的路。它从一条部分打码的序列出发,每步挑几个位置把 token 揭开,生成顺序完全灵活。先揭哪里、一次揭几个、揭开的要不要留死,全是推理时的决策。过去两年冒出一批解码策略,按 confidence 或 KL 稳定性排序、分块揭示、remasking(把揭开的 token 遮回去重猜)、带 lookahead,各自在自家 benchmark 上报提升。
这些工作共享一个默认:一套规则从头用到尾。可去噪早期和晚期的状态差别很大,偏好没理由不变。这篇把「随状态换策略」叫 state adaptation,问三个问题:换策略的机会存不存在、集中在哪、动手之前能不能认出来。
解码决策先拆成五根轴:score(优先揭示哪些位置)、cardinality(一步揭几个)、region(从哪个区域里选)、commitment(揭开的预测可否反悔)、planning(要不要为未来去噪做规划)。实验只动前四轴。LLaDA、Fast-dLLM、KLASS、ReMDM 都能在表里对号入座,原本耦合的设计选择被拆开了。
测量上定义单步状态-动作效用:只改当前这一步的决策,后续解码固定,看最终任务效用的期望变化。固定动作在验证集上选到最优,自适应机会就是候选动作里最优者超过它的幅度,以 oracle(事后才知道真实效用的上限)计。定理 1 把机会分解为反转频率乘以反转时的平均增益:均值相同的机会,可能来自很多状态各赚一点,也可能来自少数状态赚一大笔,只有后者值得做检测。协议用两折 rollout 交叉拟合压住最大化偏差。
落地方案把两件事拆开。选什么动作:各轴配一个训练免费的诊断器,score 轴回看哪种排序规则过去更可信,region 轴量优先级景观的空间漂移,cardinality 轴比较「现在揭示给下游供上下文」和「再等一步自己赚上下文」,commitment 轴比较固定预测的上下文价值和后验翻盘压力。统计量全部来自解码轨迹,不加前向。要不要动手:诊断值在验证集上按分位数分桶,每桶记平均机会,推理时预测机会过阈值才偏离固定动作,否则维持默认。
三个模型(LLaDA-8B-Instruct、LLaDA-1.5、Dream-7B)跑十个任务,先量机会本身:
| 模型 | 最强轴的 oracle 机会差距 |
| LLaDA-8B | 0.00250.0454 |
| LLaDA-1.5 | 0.00250.0450 |
| Dream-7B | 00.1325 |
差距极大。LLaDA-1.5 上 CSV Missing Cells 的 region 轴,正机会状态占比 0%,固定动作从未被超越;结构化任务(约束 JSON、HTML 补标签、进位电路)的机会明显更大,最强轴也随模型变。
机会存在不等于能用。三个模型的平均 AUROC(检测器把正例排在负例前的概率,0.5 为随机)只有 0.545、0.541、0.571,拿到正的 10% 覆盖提升的任务-轴设置分别只有 3、1、5 个。亮处:LLaDA-8B 约束 JSON 填空的 region 检测器 AUROC 0.854,只动 10% 的状态拿走 56.9% 的 oracle 机会,20% 覆盖拿到 84.3%;Dream Carry RTL 的 cardinality 检测器以 0.802 AUROC 拿走 64.3%。反例同样有信息量:Dream JSON Mode Eval 的 score 检测器 AUROC 0.891,前 10% 状态里 oracle 机会为零、提升也为零。能做二分类不等于能按效用排序。
端到端解码里,选择性自适应把任务宏效用从 0.392 提到 0.424(LLaDA-8B,+3.2 分)、0.344 到 0.384(LLaDA-1.5,+4.0)、0.411 到 0.467(Dream,+5.6)。全程听诊断器的分别只有 0.370、0.334、0.447,在 LLaDA-8B 的展示设置里把效用从 0.365 打到 0.160。收益来自判断「何时干预」,不来自自适应本身。
对做 MDM 推理的人,这篇给了一张地图加一个警告。地图是五轴分类法,散落的解码技巧进了同一个坐标系,以后比较方法至少知道各自动的是哪根轴。警告是:平均检测能力接近抛硬币,无差别全程换策略会倒亏,值钱的形态是默认固定、少数状态偏离,且收益集中在结构化任务。想给模型加自适应解码,应该先按这套流程测机会是否可检测,再决定投入。单步效用加 rollout 交叉拟合的测量协议,以及把「选什么动作」和「要不要动手」分开评估的框架,对其他推理时自适应研究直接可用。
作者自己承认的:机会可预测性整体有限,结论只能写成条件式,检测器够准且诊断动作够好时选择性自适应才有效,多数设置不满足。动作选择的初筛用了测试集结果,作者明确标注这是探索性筛选,不是确认性检验。
再补几处没解决的。十个任务多数偏结构化或合成(CSV 填空、HTML 补标签、进位电路、稀疏掩码还原、多段完形填空),常见开放 benchmark 只有 HumanEval 和 GSM8K,开放生成上是否成立没有验证。planning 轴整根没动,而搜索类方法恰好在那根轴上。诊断器的推导建立在理想化假设上,四个诊断器各只在部分设置里灵,七个通过初筛的组合没有一个在三个模型上都复现。