NVIDIA 实习团队发布首个大规模连续扩散语言模型 Sigma（3B/8B）
ArashVahdat · x · 2026-10-05
NVIDIA 夏季实习生 Wei Guo 团队发布 Sigma，首个大规模连续扩散语言模型（dLM）：
- 规模 3B/8B，以似然目标训练，是首个此量级的连续 dLLM
- 在同等训练预算下，数学与编程成绩与 masked 扩散模型（discrete dLM）乃至 AR 模型相当甚至更好
- 连续动力学带来有趣性质，支持推理时干预（inference-time interventions）的实质性研究
由 Wei Guo、Jean-Marie Lemercier、Simon Welker 共同领导，Arash Vahdat 等多位 NVIDIA 研究员参与。
所属事件:NVIDIA 发布首个大规模连续扩散语言模型 Sigma(2 条相关)→
「模型」频道最新
- 海外用户实测中国模型：弃用 Codex，八成工作够用 — EmetInteractive · 2026-10-06
- 三元 MoE 开源模型 Scion-35B-A3B 发布，附推理工具链 — pmttyji · 2026-10-06
- Kairos 1 号称首个模拟个体人类行为的模型，横扫 13 项基准 — misovalko · 2026-10-06
- 开发者盛赞 Claude Opus 5.5:不用催就懂意图,甩开 GPT 6 — jdjohnson · 2026-10-06
- 开发者实测:Clef-Flash 在 Jetson Orin 本地推理也很流畅 — gregmushen · 2026-10-06
- 实测 GLM 5.3 Flash 与腾讯 Hy3：谄媚度最低的两款模型对决 — ramendik · 2026-10-06