实测 Muse Glimmer 30B 本地部署:24GB 显存跑 22 t/s
curiousily_ · reddit · 2026-08-12
一位开发者测试了将 Meta 新推出的 Muse Glimmer 30B 模型与 Hermes Agent 结合,用于本地和私有的 AI 编程任务。
- 硬件与性能:在 M5 Pro 设备上,使用约 24GB 内存(含 drafter 模型),推理速度达到 22 tokens/s。
- 工具调用:模型成功执行了正确的工具调用,并在 Hermes Agent 中完成了实际有用的编程工作。
- 结果对比:最终生成的代码项目能够正常运行,而此前使用 OpenCode 运行该模型时则无法实现。
所属事件:Meta开源Muse Glimmer 30B:端侧智能体实测惊艳(14 条相关)→
「编程与Agent」频道最新
- 用 ChatGPT 会话经 Desktop Commander MCP 启动 Claude Code CLI — MidahBootyQuay · 2026-10-16
- 单操作员指挥多智能体能做的事已超乎想象 — natesiggard · 2026-10-16
- Claude Code 会话该跑多久?3 小时后上下文成灾的真实教训 — Additional-Buy-2562 · 2026-10-16
- Claude Code 隐藏行为:团队成员 agent 的回复不会送达 lead — Sauers_ · 2026-10-16
- Agent 写完完整回答却被 harness 丢弃:工具调用文本被当进度注释 — Stunning-Sherbet1853 · 2026-10-16
- Vibe coding 背锅太多:工程师厘清它与真实软件工程的边界 — bendee983 · 2026-10-16