离散扩散 LLM 可在生成中强制约束,训练无关、覆盖语言/化学/代码
nandofioretto · x · 2026-10-03
- 弗吉尼亚大学 RAISE Lab 发布研究指南 Constrained Discrete Discrete Diffusion for Language, Chemistry, and Code:离散扩散模型(dLLM)在去噪过程中反复精炼整条序列、不逐 token 提交,这一全局可编辑状态使其能在输出成形阶段就强制施加硬约束——这是自回归模型做不到的。
- 该方法 training-free,直接在去噪循环内实施约束;可应用于语言、分子(化学)、代码生成。
- 思路可组合离散扩散与优化、符号反馈和搜索等技术,论文给出了直觉解释与结果展示。
所属事件:离散扩散 LLM 支持生成中强制约束并大幅加速推理(2 条相关)→
「研究」频道最新
- Eric Topol:细胞身份丢失才是衰老本质,表观遗传钟测的就是它 — EricTopol · 2026-10-03
- 斯坦福 CS336 2026 春季课表公布：从零训练大模型的公开课 — stanfordnlp · 2026-10-03
- MIT 实测:1918 流感病毒基因片段,38 家合成商 36 家无筛查发货 — NathanpmYoung · 2026-10-03
- NanoGPT 训练纪录刷进 9.65 秒,CPU 协同成关键妙招 — charles_irl · 2026-10-03
- Context Language Models 提出：让 LLM 直接编辑自己的上下文 — daniel_mac8 · 2026-10-03
- 小模型物理推理能力惊人地差,且缺乏针对性基准 — auto_grad_ · 2026-10-03