Meta开源30B端侧Agent模型MuseGlimmer,24G显存即可本地跑

大模型之路 · wechat · 2026-08-12

Meta 超级智能实验室正式开源了 30B 参数的多模态模型 MuseGlimmer(Apache 2.0)。该模型定位为常驻本地的 Agent,而非简单的聊天机器人,主打离线场景与隐私数据保护。

架构与优化

模型包含 27.9B 文本解码器与 1.9B 视觉编码器,支持 128k 以上下文。为兼顾长上下文与算力成本,采用了混合滑动窗口注意力(局部 RoPE 与全局 NoPE 结合)。通过 4-bit 量化,权重被压缩至 20GB 以内,使其能在 24GB 显存的 RTX 3090/4090 或 32GB 内存的 Mac 上流畅运行。此外,模型自带轻量草稿模型实现投机解码,提升生成速度。

生态与定位

发布当天即获得 llama.cpp、Ollama、HuggingFace 等主流工具链的 day-0 支持。Meta 此举意在填补“能干活的模型跑不动,跑得动的模型像智障”这一断层。相比同尺寸的 Qwen3.6-27B 和 Gemma4-31B,其优势在于从第一天起就专为端侧 Agent 调优。这也标志着大模型竞争下半场正从“谁更聪明”转向“谁能住进你的设备”。

所属事件:Meta开源30B端侧Agent模型Muse Glimmer(2 条相关)→

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →