三套开源模型拼出桌面级本地 Agent:大脑+语音+视觉一桌搞定

lmoroney · x · 2026-10-27

Laurence Moroney 盘点 10 月 22-24 日的三个开源发布,提出一套无需云端 API 的本地 Agent 方案:Nemotron 3.5 Bolt E4B 作大脑(NVIDIA 基于 Gemma-4-E4B-it 后训练,8B 参数/4B 有效参数,Q4 量化约 4GB,支持多轮工具调用与 64K 上下文,Jetson Orin Nano 8GB 上约 15.5 tokens/s)、Phonon 作语音(Ollama 0.40.11 新增 macOS 语音模型,提供 OpenAI 兼容 TTS 端点)、WeVisOne-VL 作视觉(相机画面裁剪、画框与掩码)。作者写了如何把它们接线成各司其职的专家系统,并指出厂商宣传中未提及的细节(如 Ollama 标 128K 上下文与 NVIDIA 页面 64K 不一致)。