NVIDIA 发布 Nemotron 3.5 Lightning,主打长时智能体执行
rohanpaul_ai · x · 2026-08-12
NVIDIA 发布了 Nemotron 3.5 Lightning 模型,专为长时间运行的智能体任务设计。该模型总参数量为 30B,活跃参数为 3B,支持最高 100 万 tokens 的上下文,并已开放商业使用。
部署与优化:
- 支持单 GPU 本地部署,兼容 BF16 及更小的 NVFP4 检查点,推荐硬件包括 1× DGX Spark 或 1× H100,同时也支持 RTX 5090。
- 引入了多 token 预测、DSpark 与 DFlash 推测解码以及 NVFP4 量化技术,大幅提升生成速度。
性能表现:
- 官方称输出速度最高提升 4 倍。
- 在 PinchBench 测试中,达到 86% 的准确率,且在准确率相近的情况下,完成速度比 Qwen3.6 35B 快 30%。
所属事件:NVIDIA发布Nemotron 3.5 Lightning与NeMo Switchyard路由库(55 条相关)→
「Infra」频道最新
- Phison CEO 称 CXMT 内存恐慌是“市场鬼故事”,明年的问题是缺料不缺单 — BenBajarin · 2026-10-16
- Ben Bajarin:算力未来是可互换的,超大规模厂商正为工作负载自由布局 — BenBajarin · 2026-10-16
- AirLLM 逐层加载:2.8 万亿参数模型宣称跑进 4GB 显存 — Aiden_Tech_Ai · 2026-10-16
- NVIDIA 发布 cuPotential,用 AI 智能体模拟半导体材料原子交互 — tomaszbednarz · 2026-10-16
- 8 核 CPU 跑 Q4 量化模型,10 分钟单次生成太阳系交互演示 — IntrepidMindExplorer · 2026-10-16
- TokenSpeed MLA 2 发布:Kimi K3 在 Vera Rubin 解码最快提速 3.44 倍 — zhyncs42 · 2026-10-16