Meta 发布 MobileMoE:活跃参数 <1B 的端侧 MoE 模型
jacek2023 · reddit · 2026-08-25
- 模型家族:MobileMoE 是一系列专为端侧设计的混合专家 模型,拥有小于 10 亿的活跃参数,旨在优化移动端 LLM 的质量-效率边界。
- 规模配置:提供三个模型尺寸 (S/M/L),活跃参数分别为 0.3B/0.5B/0.9B (总参数量 1.3B/2.8B/5.3B)。
- 部署特性:INT4 权重占用小于 3GB,可适配移动设备 DRAM。
- 变体发布:每个规模包含 Base (预训练+中段训练)、SFT (监督微调) 和 QAT (量化感知训练) 三个版本。
「模型」频道最新
- Apollo 首见:GLM 会在推理时自发权衡行为对未来训练的影响 — MariusHobbhahn · 2026-10-15
- 网友实测 Gemini 4 argon 对比 Opus 5.5:3 分钟 3 美元 vs 25 分钟 8 美元 — zacharynado · 2026-10-15
- SentinelOne:OpenAI 8小时完成顶级研究员4-6周逆向工程 — OpenAI · 2026-10-15
- 关闭推理后 Qwen3.8 27B 加法正确率仅 23.57%,开启推理达 167/169 — dl_weekly · 2026-10-15
- 把嵌入模型 EmbeddingGemma 2 改造成语音双向模型 — kastnerkyle · 2026-10-15
- 爆料:合作伙伴已拿到 Claude Fable 5.5 内测,或下周发布 — lyraxana · 2026-10-15