NVIDIA Nemotron 3.5 Super 发布:120B/12B 激活参数,SWE-bench Pro 得 51.78%
dair_ai · x · 2026-10-30
NVIDIA 发布技术报告,介绍开源 MoE 混合 Mamba-Transformer 模型 Nemotron 3.5 Super 与 Lightning:
- Super:120B 总参数、12B 激活,多模态(文本/图像/视频),SWE-bench Pro 达 51.78%,以约 4.6 倍更少的激活参数超越 Nemotron 3 Ultra
- Lightning:30B 总参数、3B 激活的纯文本模型
- 训练管线:agentic 软件工程 mid-training → SFT → RL(RLVR/RLHF)→ 多教师在线蒸馏(MOPD);Indic 持续预训练使印度语系基准提升最多 9.82 个百分点
- 推理性能:GB200 上最高 4,856 output tokens/s/GPU,同时保证每用户 ≥50 tokens/s;NVFP4 量化相对 BF16 恢复 99.62% 中位精度,吞吐达 BF16 的 2.43 倍
- 原生 MTP 投机解码,草案接受长度提升至 21.8%;吞吐为 Qwen3.5 的 2.34 倍、Qwen3.8 Flash-Next 的 1.90 倍
- 开源 base、BF16 后训练与 NVFP4 量化 checkpoint,附训练数据、配方与投机解码器
所属事件:NVIDIA 开源 Nemotron 3.5：MoE 混合 Mamba-Transformer 模型(2 条相关)→
「Infra」频道最新
- 量子行业去年风投 49 亿美元仅营收 19 亿，四市场全景指南发布 — antavedissian · 2026-10-30
- 单卡 5090 跑 DeepSeek V4.1：prefill 超 4000 tok/s，解码 7-24 tok/s 可调 — Front_Eagle739 · 2026-10-30
- Cohere 加码加拿大：投资超 40 亿加元，2031 年前新增 1500 岗位 — cohere · 2026-10-30
- River API 支持任意自定义 Loss 训练 LLM:本地写 PyTorch,远端 GPU 零开销执行 — ibab · 2026-10-30
- 无缓存 agent 成本暴涨 260%，缓存折扣两年内从 0 到 95% — arena · 2026-10-30
- LiteLLM 网关漏洞可从 Postgres 窃取上游密钥，网关密钥存放方式遭质疑 — Early-Sir-932 · 2026-10-30