Meta 开源 30B Agent 模型 Muse Glimmer,本地推理加速 3 倍
dl_weekly · x · 2026-08-19
Meta 发布 Muse Glimmer,这是一个 300 亿参数的开源 Agentic 模型。它专为本地运行优化,可在单卡消费级 GPU 上部署,通过推测解码技术将解码速度提升至 3.1 倍。模型权重采用 Apache 2.0 协议开源,并支持 llama.cpp、MLX 等框架,适合构建本地 Agent、函数调用和代码助手。
所属事件:Meta 开源 30B 语音 Agent 模型 Muse Glimmer(2 条相关)→
「Infra」频道最新
- FT 称 AI 算力债券面临「达尔文时刻」,CoreWeave 债价暴跌 — firstadopter · 2026-10-16
- 手机当界面、家里服务器跑模型:一套本地 AI 双工作流 — EAccelerate_42 · 2026-10-16
- 「数据中心就是银行」:CoreWeave 风波引出算力监管类比 — arthurcolle · 2026-10-16
- DOT-MoE:用最优传输把稠密模型改造成稀疏 MoE — burkov · 2026-10-16
- 斯坦福 CS336:7B 模型权重仅 14GB,训练却要 84GB 起步 — stanfordnlp · 2026-10-16
- NVIDIA NVFP4 新压缩技巧:利用行内尺度相近性省 45-48% 存储且位精确 — TheZachMueller · 2026-10-16