NVIDIA 发布 4GB 小模型 Nemotron-3.5-Bolt-E4B:基于 Gemma-4 优化本地语音助手与端侧 Agent
jacek2023 · reddit · 2026-10-24
NVIDIA 在 Hugging Face 发布小型语言模型 Nemotron-3.5-Bolt-E4B(4GB 版),从 Google Gemma-4-E4B-it 后训练而来,保留 Gemma 对话能力的同时强化多轮工具调用、指令遵循与输入 grounding,面向低内存、低首 token 延迟场景,适合快速本地语音/设备助手、交互式人设和嵌入式端侧界面,并为应用和相邻模型流水线留出余量。
配套提供 DFlash 投机解码起草模型、BF16 全精度版本,Gemini/unsloth 社区 GGUF 量化版也已上线,可商用。
所属事件:NVIDIA 开源 4GB 小模型 Nemotron 3.5 Bolt E4B(6 条相关)→
「Infra」频道最新
- Rob Leclerc 力挺大厂巨额融资：5-10% 稀释换来远超比例的增长 — robleclerc · 2026-10-24
- NVIDIA 在 Hugging Face 开放 Nemotron 全家桶:语言、视觉、语音权重全放送 — mervenoyann · 2026-10-24
- 分析师预测 Google TPU 外销收入 2028 年或达 1000-2500 亿美元 — Beth_Kindig · 2026-10-24
- Spotify 用 SGLang 单次请求批量打分，砍掉播客推荐逐候选请求开销 — ying11231 · 2026-10-24
- NVIDIA Nemotron 3.5 Bolt 上架 Ollama，128K 上下文本地小视觉模型 — ollama · 2026-10-24
- Bittensor 生态周报：Lium 托管 3000 万美元 GPU、利用率 91% — markjeffrey · 2026-10-24