NVIDIA 开源 4GB 小模型 Nemotron 3.5 Bolt E4B

NVIDIA 于 10 月 23 日在 Hugging Face 发布开源小模型 Nemotron 3.5 Bolt E4B，主打「4GB 内存即可本地运行」的对话智能体。该模型基于 Google Gemma 4 E4B（据转发帖为 8B 参数、4B 有效参数，可在 6GB 内存手机等边缘设备本地运行）做 Nemotron 后训练，保留 Gemma 对话能力的同时，强化多轮工具调用、指令遵循与编码能力，并支持视觉，面向本地语音/设备助手、互动角色和机器人等场景。

已确认

• 模型延续完全开放策略：权重、数据和训练配方均可自由获取与定制。
• 官方晒出的性能图显示，在代表性基准平均分与首 token 延迟（TTFT）散点图上，Bolt E4B 以 70.2 分、约 320ms TTFT 处于「又快又聪明」区域，超过上一代产品。
• NVIDIA 官方引用 ScaleAILabs 统计称，该模型以 56.03% 登顶 MultiChallenge 榜首，领先 Gemma 4 E4B（官方帖提及后者约 43% 档位）。

为什么重要

• 在端侧小模型竞争中，NVIDIA 借 Gemma 底座快速推出针对 agent 场景优化的开源模型，并以低延迟、低内存占用和完整开源配方（数据+配方而非仅权重）作为差异化卖点，直接面向手机等边缘设备的本地智能体落地。

2026-10-23 ~ 2026-10-24 · 6 条相关

• 【源头】NVIDIA 发布 Nemotron 3.5 Bolt E4B：4GB 跑本地对话智能体 — NVIDIAAI · 2026-10-23
• NVIDIA 晒 Bolt E4B 跑分图：比 320ms 延迟下最聪明的小模型 — NVIDIAAI · 2026-10-23
• 【源头】NVIDIA 发布开源 Nemotron 3.5 Bolt E4B 4GB,权重数据配方全开放 — NVIDIAAI · 2026-10-23
• NVIDIA 发布 Nemotron 3.5 Bolt E4B：6GB 内存即可本地运行的开源视觉模型 — danielhanchen · 2026-10-23
• 【源头】NVIDIA 官方确认：Bolt E4B 登顶 MultiChallenge，权重数据全开源 — NVIDIAAI · 2026-10-24
• NVIDIA 发布 4GB 小模型 Nemotron-3.5-Bolt-E4B:基于 Gemma-4 优化本地语音助手与端侧 Agent — jacek2023 · 2026-10-24