NVIDIA 发布 Nemotron 3.5 Bolt E4B：6GB 内存即可本地运行的开源视觉模型
danielhanchen · x · 2026-10-23
NVIDIA 发布开源小模型 Nemotron 3.5 Bolt E4B（8B 参数、4B 有效参数），可在 6GB 内存的手机等边缘设备上本地运行，基于 Gemma 4 E4B 后训练，强化了 agent 使用与编码能力，支持视觉。
- 官方定位：本地助手、交互式角色与机器人，可对话并调用工具；演示中 Bolt 负责对话、Cosmos 负责视觉，整体跑在 Jetson Orin Nano 8GB 上驱动 Reachy Mini。
- 基准表现：MultiChallenge 多轮对话评测第一（56.03%），领先 Gemma 4 E4B 12.8 分；NVIDIA 图表显示其在同尺寸模型中综合分与速度俱佳（70.2 分、首 token 延迟约 250ms）。
- 权重、数据与训练配方全部开放，Unsloth 已上线 GGUF 量化版与本地运行/微调指南：4-bit 需 6GB 内存，全精度需 16GB。
所属事件:NVIDIA 开源 4GB 小模型 Nemotron 3.5 Bolt E4B(6 条相关)→
「Infra」频道最新
- PsiQuantum 12 英寸薄膜钛酸钡晶圆实物曝光,做工精致到想「舔」 — clarejtbirch · 2026-10-24
- 美银拆解数据中心成本:服务器占 31.4M 美元/MW 大头 — TiernanRayTech · 2026-10-24
- 芯片抵押贷款三年扩成万亿美元市场，风险高度集中 — dinabass · 2026-10-24
- Applied Compute 登上 GTC 主题演讲，主打开源模型企业级后训练平台 — rhythmrg · 2026-10-24
- OpenAI 揭秘 ChatGPT 存储架构:多租户+全球缓存实现 12 倍读取提速 — OpenAI News · 2026-10-24
- Google Cloud API Gateway 支持流式端点,可用于 LLM 路由 — rseroter · 2026-10-24