面壁开源 MiniCPM-V 4.7：35B MoE 端侧多模态

10 月 13 日，面壁智能 OpenBMB 开源端侧多模态模型系列 MiniCPM-V 4.7，并全系列上线 Hugging Face。该系列包含 MiniCPM-V-4.7-35B-A3B（总参数 35B、激活 3B，图像文本到文本）与 1B 两档，其中 35B-A3B 是该系列首个 MoE 模型，主打手机级部署，被多个帖子称为首个能在 iPhone 上跑出 13 token/s 的开源端侧 MoE 多模态模型。

已确认

• 型号与规模：MiniCPM-V 4.7 提供 35B-A3B（MoE）与 1B 两档，35B-A3B 为图像文本到文本模型
• 关键技术：Lookahead Expert Scheduling（LES）专家调度、分层细粒度量化、DSpark 投机采样
• 性能数据：iPhone 17 Pro Max 上 13+ tok/s，仅需约 3GB 内存；iPad Pro M4（16GB）上 17+ tok/s；据 @victormustar 转述，iPad 上较此前提速 5 倍
• 发布渠道：Hugging Face 上线合集，提供 GGUF、FP8、GPTQ、AWQ、int4、DSpark 等多种量化格式；据 @XianbaoQIAN，配套 Intelligent 部署工具链

为什么重要

• 35B 级多模态模型此前难以在手机端实时运行，本代通过 MoE 架构与系统级优化（调度+量化+投机采样）把推理压到 13+ tok/s 的可用区间，且内存占用仅约 3GB，意味着旗舰手机可直接本地跑多模态模型
• 开源加多格式量化发布降低了端侧部署门槛，@XianbaoQIAN 评价其端侧表现已逼近大模型水平，对隐私敏感与离线场景尤其有价值

2026-10-13 ~ 2026-10-13 · 7 条相关

• 【源头】MiniCPM-V 4.7 发布: 首个 iPhone 上 13 token/s 的开源端侧 MoE — Skyline34rGt · 2026-10-13
• 【源头】MiniCPM-V 4.7 发布：35B-A3B 端侧多模态逼近大模型 — Xianbao_QIAN · 2026-10-13
• MiniCPM-V 4.7 全系列上线 HF：35B-A3B 与 1B 多格式齐发 — Xianbao_QIAN · 2026-10-13
• OpenBMB 开源 MiniCPM-V 4.7：35B MoE 端侧多模态，iPad 提速 5 倍 — victormustar · 2026-10-13

另有 3 条近重复转述:ondevicedev · Med1_Ai · SimplyAnnisa