Meta 开源 Muse Glimmer 30B:消费级显卡本地跑的端侧 Agent 模型
RobertTLange · x · 2026-10-25
Meta 发布开源端侧 agent 模型 Muse Glimmer 30B(Apache 2.0),由 Muse Spark 蒸馏而来,专为消费级硬件上的自主智能体任务设计,单卡即可本地推理。
关键规格
- 29.6B 稠密参数 + 冻结的 1.8B ViT-G/14 图像编码器,支持文本与图像输入
- 3:1 滑动窗口(2048, RoPE)+ NoPE 全局注意力,GQA 32q/2kv,仅 13 KiB KV/token(128K 上下文约 1.6 GiB)
- σ-门控注意力、sandwich norms、logit softcap
- 训练:对 Spark top-256 logits 做 KL,再经 on-policy KD + RL;3 层 draft reader 配合 DFlash
性能
- 4-5 bit 量化后仅 17–20 GB,RTX 5090 上达 233 tok/s
- 工具使用、多步规划与 agent 任务完成在同尺寸中号称 SOTA,领先 Gemma4-31B 与 Qwen3.6-27B(MCP Atlas 75.5 vs 54.2),长上下文占优但终端 GUI 任务落后
- 密集模型在同预算下比 MoE 计算效率高 2–2.5 倍
「模型」频道最新
- Claude 识别出用户在欧洲且是周日后主动劝人下班 — aiamblichus · 2026-10-25
- Claude 上架 Google Cloud：Anthropic 托管版正式可用，账单和 IAM 走谷歌 — emmanuelvivier · 2026-10-25
- OpenDS-World 基准：GPT-6 Astra 实时网页深度搜索 39%，人类均值 21.1% — emmanuelvivier · 2026-10-25
- 被逼表态时 Grok 92% 选共和党，GPT-6.1 Sol 97% 选民主党 — emmanuelvivier · 2026-10-25
- 微软 AI 诊断系统 MAI-DxO 准确率 83.2%，碾压医生的 36.1% — emmanuelvivier · 2026-10-25
- 分域对比:Kimi K3.1 Pro 多数领域追平 Opus 5.5 High,法律偏弱 — AaronBergman18 · 2026-10-25