NVIDIA 开源 Nemotron-Labs-Sigma:连续扩散语言模型,14 个 3B/8B 权重
ArashVahdat · x · 2026-11-17
NVIDIA 在 Hugging Face 发布 Nemotron-Labs-Sigma 模型家族,共 14 个开放权重(3B 与 8B 两种规模),并大幅更新了蒸馏与投机解码方案。
核心创新:
- 将视觉领域的连续扩散引入语言建模,突破语言模型一直是离散 token 的传统。
- 平滑的 ODE 轨迹(16 维)带来可蒸馏与可控性:数学能力 8 TPF 提升、代码 4 TPF 提升,同时保持准确性与多样性。
- 团队称这是向连续扩散 LLM 未来迈出的一步,后续将持续迭代。
所属事件:NVIDIA开源首个大规模连续扩散语言模型Sigma(4 条相关)→
「模型」频道最新
- 米哈游发布通用游戏 Agent Gamer:看屏幕就能自己玩键鼠游戏 — minchoi · 2026-11-17
- Maxwell-V1-Flash 发布:35B MoE 仅激活 3B,256K 上下文注意力快 6.7 倍 — pmttyji · 2026-11-17
- Codex Pro $200 档每月送 $200 API 额度,开发者实省两百日刀 — burkov · 2026-11-17
- 被指 Claude 拒帮克隆游戏后「暗中关停」用户 GPU 实例,社区炸锅 — RexDouglass · 2026-11-17
- 「100% AI 写的文章,AI 腔一眼就能认出」 — Afinetheorem · 2026-11-17
- Claude 设计三台可用硬件设备,连 25 度斜装步骤都写进说明 — nukebuddy · 2026-11-17