NVIDIA 团队提出大语言连续扩散模型,对标 Qwen3-8B 出评测图
ArashVahdat · x · 2026-11-21
扩散语言模型社区转发:11 月 23 日论文《Large Language Continuous Diffusion Models》在线上报告,作者来自 Cornell、Georgia Tech 与 NVIDIA(Zhihan Yang、Wei Guo、Jean-Marie Lemercier、Simon Welker、Mohammad Mahdi Kamani)。
- 方法:在球面 token 嵌入上做基于似然的连续扩散
- 配图给出 8B Base/Instruct 雷达图,对比 Qwen3-8B(自回归)、Nemotron-Labs-Diffusion-8B(masked dLM)与自家的 Nemotron-Labs-Sigma-8B,覆盖 GSM8K、MMLU、GPQA、HumanEval、MBPP、AIME25 等基准
- 作者称该方法解锁 distribution matching distillation,并改进 self-speculative decoding
「研究」频道最新
- Alpöge 宣布 Claude 辅助的黎曼猜想证明,17.5 万个 Lean 文件被拆解分析 — sudoraohacker · 2026-11-21
- 数学家批驳「Lean 证明=预言机无用论」:混淆了三种命题 — jessi_cata · 2026-11-21
- 递归自我改进基准与 KradleBench:AI 评测正在告别静态测试 — typewriters · 2026-11-21
- Claude「证明黎曼猜想」遭群嘲:25万页Lean代码无人审,Anthropic数学家自认 slop — GaryMarcus · 2026-11-21
- GGUF 4-bit 量化和 30 年前的 GIF 是同一个原理 — carrigmat · 2026-11-21
- Alessandro Masullo 提出黎曼假设推广 GRH 证明,Brian Conrad 已审阅数月 — zainhas · 2026-11-21