NVIDIA 发布 Nemotron 3.5 Bolt E4B:4GB 端侧模型,token 输出省 80%
heatOverflower · reddit · 2026-10-31
NVIDIA 发布 Nemotron 3.5 Bolt E4B(4GB),基于 Gemma 4 E4B 做 Nemotron 后训练,面向语音/设备助手、交互式角色和机器人/IoT 界面,可在 GeForce RTX、Jetson、RTX Spark 和 DGX Spark 上运行。官方称在关键对话 agent 基准上平均质量较前代提升约 40%,输出 token 较同类模型减少最多约 80%。模型已上架 Hugging Face。
「Infra」频道最新
- Altman 称个人电脑囤 RAM 很浪费,网友晒 64GB 跑 Hello World 吐槽 — SuB8u · 2026-10-31
- xAI 概念图:月球电磁质量投射器年发 1000+ TW AI 卫星算力 — XFreeze · 2026-10-31
- Running 500B+ Models Locally? Seeking Prefill/Decode Benchmarks — HankYeomans · 2026-10-31
- OpenCode 单机架供给 10T Token,多数创业公司算力需求远低于此 — JoshPurtell · 2026-10-31
- AI 竞争正变成基础设施竞赛:Blackwell 单 GPU 达 1.8TB/s NVLink — Olivier__OG · 2026-10-31
- 推理优化内卷加剧:从业者要的已是最快最便宜的够用模型 — bendee983 · 2026-10-31