NeurIPS 论文:[MASK] 填充 itself 也能检测扩散语言模型的越狱攻击

kastnerkyle · x · 2026-11-11

一项即将发表在 NeurIPS 的研究发现，掩码扩散语言模型(masked diffusion LLM)输出中的 [MASK] 占位符本身就是越狱攻击的检测信号：某些越狱样本在掩码模式下留下的「空洞」比 prompt 本身更容易识别。

作者展示了利用模型对正常请求与越狱请求在掩码位置概率分布上的差异(分别建模 pP 与 pR,构造得分 s(x) 与阈值 τ)来区分二者，实现比基于 prompt 的检测更好的效果。论文附带完整方法图示。