实测 Muse Glimmer 30B 本地部署:24GB 显存跑 22 t/s
curiousily_ · reddit · 2026-08-12
一位开发者测试了将 Meta 新推出的 Muse Glimmer 30B 模型与 Hermes Agent 结合，用于本地和私有的 AI 编程任务。
- 硬件与性能：在 M5 Pro 设备上，使用约 24GB 内存（含 drafter 模型），推理速度达到 22 tokens/s。
- 工具调用：模型成功执行了正确的工具调用，并在 Hermes Agent 中完成了实际有用的编程工作。
- 结果对比：最终生成的代码项目能够正常运行，而此前使用 OpenCode 运行该模型时则无法实现。
所属事件:Meta开源Muse Glimmer 30B：端侧智能体性能与防幻觉受好评(6 条相关)→
「编程与Agent」频道最新
- Docker 沙箱正重塑 AI 编码智能体权限模型 — krishnan · 2026-08-12
- Terraform被吐槽反人类：AI基建编排工具该怎么选？ — JasonBotterill · 2026-08-12
- Meta 与 NVIDIA 同日发 30B 模型：Agent 本地化与云端路由的对决 — eyishazyer · 2026-08-12
- Simon Willison: 无状态 MCP 2.0 规范重燃协议生机 — JeremyCMorgan · 2026-08-12
- 三星引入 Claude Code，芯片验证耗时从月级缩至天级 — Wonderful_Buffalo_32 · 2026-08-12
- 开源爬虫缓存代理 Squache：可降低 90% 带宽成本 — tom_doerr · 2026-08-12