CDM：离散扩散模型奖励引导采样提速 50 倍，计算开销不足 5%

CatAstro_Piyush · x · 2026-08-28

KAIST、密歇根大学与 NVIDIA 的论文提出 Contrastive Distribution Matching (CDM)：在离散扩散模型中，向奖励倾斜的采样（reward-tilted sampling）通常依赖 Twisted SMC，而估计最优 twist 函数需要昂贵的蒙特卡洛近似，造成推理瓶颈。

CDM 通过正负样本对比学习一个参数化 twist 函数，把每步 twist 评估降为常数时间操作，计算开销相比基础模型单次前向传播增加不到 5%，同时比 Twisted SMC 快最多 50 倍。训练上利用离散扩散闭式前向核重构梯度估计器。

实验显示 CDM 在相同 wall-clock 时间下一致超过现有基线，应用覆盖毒性文本生成、调控 DNA 序列设计、蛋白质可设计性以及扩散大语言模型对齐。论文与代码已开源。

原文链接 →

「研究」频道最新

• arXiv 机器人论文周产5年涨6倍,10月单周峰值达676篇 — Rewkang · 2026-10-15
• MicroSDF 论文：微表面驱动的混合神经 SDF 重构混合反射表面 — ssh4net · 2026-10-15
• KAUST 论文揭示「思维泄漏」:无思考模式 RL 增益只是旧能力回放 — kaust-generative-ai · 2026-10-15
• EPFL 提出 COMPASS:对齐/合并前先算模型配对兼容性 — epfl-ch · 2026-10-15
• BERT 分词器提速 50 倍：88% 时间耗在文本规范化上 — LysandreJik · 2026-10-15
• LLM 智能体自主设计 SAR ADC 芯片:SKY130 上从原理图到 signoff 无需人工 — IgorCarron · 2026-10-15

更多「研究」频道 AI 资讯 →