Meta 开源 30B 本地智能体模型 Muse Glimmer,17GB 量化跑进 24GB 单卡
bibryam · x · 2026-09-26
Meta Superintelligence Labs 发布新模型 Muse Glimmer,以 Apache 2.0 许可开源权重,主打「跑在你自己设备上的常驻智能体」。
- 规模与部署:30B 参数,17GB 量化版可放进 24GB 消费级单卡,一台 Mac 或 PC 即可运行,平均仅 1% 性能损失(15 个 benchmark);llama.cpp、MLX、ExecuTorch 集成即将上线。
- 定位:针对本地智能体工作流优化——本地 agent、function calling、本地编码、LLM-as-a-judge 评测,离线可用,无需云基础设施。
- 训练思路:管理日程、起草消息、整理文件的个人 agent 需要深度访问个人上下文,官方博客介绍了长时程任务等多项能力的协同训练。
- 权重已上 Hugging Face,并附开发者文档。
这是 Meta 在小型模型逼近前沿能力方向上的又一次押注。
「Infra」频道最新
- 百度发布 ERNIE Evolve 自动研究系统,NanoGPT Speedrun 超公开最好成绩 — xiaohu · 2026-11-11
- 百度首次用 RSI 自动优化文心推理,昆仑芯出字速度提升 6.24 倍 — xiaohu · 2026-11-11
- Nvidia 供应承诺单季从 1190 亿飙至 2790 亿美元，锁死 2027-28 显存 — tengyanAI · 2026-11-11
- 独立研究者新优化器：24GB 显存可训 27B 模型，权重仅需 1.6bit — oguzeldereli · 2026-11-11
- 英伟达扩大与 Meta 的 Muse 合作,将向 Meta 投资 30 亿美元 — armand_ruiz · 2026-11-11
- 网友算账质疑 Anthropic:Opus 5.5 十亿美元成本大头不在算力 — teortaxesTex · 2026-11-11