本地 Agent 全文:大脑 Nemotron、语音 Phonon、视觉 WeVisOne 详细拆解
lmoroney · x · 2026-10-27
Laurence Moroney 的完整博文,把 10 月 22-24 日的三个开源发布拼成一台可放桌面的本地 Agent:
- 大脑 Nemotron 3.5 Bolt E4B:10 月 23 日 NVIDIA 发布,从 Gemma-4-E4B-it 后训练,面向本地语音与设备助手;8B 参数(4B 有效),OpenMDW-1.1 许可,Q4KM 约 4GB;带对话/思考切换、多轮工具调用,官方卡 64K 上下文;官方基准较 Nemotron 3 Nano 4B 平均分高约 40%,agent 任务输出 token 少最多约 80%(利于语音短回复);Ollama v0.40.10 已收录,但 Ollama 页面标为视觉语言模型且 128K 上下文,与 NVIDIA 64K 有出入,需自行验证;Jetson Orin Nano 8GB 上 Q4KM 约 15.5 tokens/s,短回复可保持交互感。
- 语音 Phonon:10 月 24 日 Ollama 0.40.11 在 macOS 新增语音模型,首发 Gradium 的 Phonon 系列;ollama run phonon 即可运行,并提供 OpenAI 兼容的 /v1/audio/speech 端点,现有 TTS 代码只需换 base URL。
- 视觉 WeVisOne-VL:为相机画面裁剪提供接地感知,画框与掩码。
作者主张让三个模型各司其职组成专家系统,全程无云端 API key,并提醒厂商宣传与实际打包细节的差异要自己上手验证。
所属事件:三套开源模型组合打造桌面级本地 Agent(2 条相关)→
「编程与Agent」频道最新
- CoreWeave ARIA 智能体新增四种实时面板，可在聊天中交互查看 — _ScottCondron · 2026-10-27
- opentel-mcp 开源：为 Python MCP 服务器抓出静默失败 — Thirumalaiboobathi · 2026-10-27
- Qwen 3.8 本地部署实测：移植老屏保到 Python OpenGL — prusswan · 2026-10-27
- Hugging Face 集成 TorchTPU:Transformers/Diffusers 原生跑 TPU — ariG23498 · 2026-10-27
- opentel-mcp 双语版齐了：JS 与 Python MCP 失败指纹完全一致 — Thirumalaiboobathi · 2026-10-27
- iMCP 1.8.0 发布:邮件、备忘录、语音备忘录与音乐接入 Mac MCP 服务 — pcuenq · 2026-10-27