4GB 小模型跑上机器人：Nemotron 3.5 Bolt E4B 在 Jetson 上实测

lmoroney · x · 2026-10-25

Laurence Moroney 用 NVIDIA 新的 Nemotron 3.5 Bolt E4B（Gemma 4 E4B 底座 + Nemotron 后训练，含 RLVR/RLHF，量化到 Q4KM）做了小模型上机器人实测：模型运行在 Reachy Mini 机器人上，视觉由 Cosmos 处理，全部跑在一块 Jetson Orin Nano 8GB 上。NVIDIA 报告的数字：约 4.2GB 显存占用、约 15 tokens/s、64K 上下文、支持 35 种语言，针对对话与多轮工具调用调优。他认为最有学习价值的是训练配方和数据集全部公开，可以看清一个小模型如何为特定任务塑形，并给出实践建议：选一个小助手任务写 10 条测试对话，换模型前后各跑一遍对比。