离散扩散 LLM 支持生成中强制约束并大幅加速推理

弗吉尼亚大学 RAISE Lab 发布关于约束离散扩散的研究指南,显示离散扩散语言模型可在生成过程中强制执行硬约束,且无需重新训练,适用于语言、化学、代码等多领域。该实验室的另一项工作 SpecDiff 利用扩散起草技术加速自回归 LLM 推理,已实现 5.5 倍提速,且提升空间远未见顶。

2026-10-03 ~ 2026-10-03 · 2 条相关