MiniCPM-V 4.7 发布：35B 视觉模型跑进 iPhone，3GB 内存 13+ tok/s
ondevicedev · reddit · 2026-10-13
OpenBMB 发布开源端侧多模态模型 MiniCPM-V 4.7（35B-A3B MoE），主打手机级部署：
- 端侧速度：iPad Pro M4（16GB）上 17+ tok/s，iPhone 17 Pro Max 上 13+ tok/s，内存约 3GB
- 关键技术 LES（Lookahead Expert Scheduling）：为 MoE 模型预测并预加载专家，减少推理停顿，官方称输出完全一致下最高 5 倍加速
- 34 项多模态基准（OCR、STEM、视频理解等），OCRBench 90.4 分，16 倍视觉压缩
- 另有 1B 轻量版便于部署，提供 Self-Replay Fine-Tuning 降低定制成本
- 支持 Apple、Intel、AMD、Arm、Rockchip 芯片平台
所属事件:面壁开源 MiniCPM-V 4.7：35B MoE 端侧多模态(7 条相关)→
「Infra」频道最新
- Celesto CI 算账:1000 个任务比 GitHub Actions 便宜 9 倍 — aniketmaurya · 2026-10-13
- Keurig 咖啡机 10 天跑 1TB 流量,当事人复盘:单位故障 — gnukeith · 2026-10-13
- oQe 量化全面更新:代码 KL 散度最高降低 18% — huggingface · 2026-10-13
- Rodolfo Rosini 畅想 2040:廉价算力无处不在,设备数量再爆数个量级 — MikePFrank · 2026-10-13
- AI 推理芯片市场年规模 2250 亿美元,Vaire 解释为何鲜有初创敢做芯片 — MikePFrank · 2026-10-13
- Vaire CEO 访谈四连发：可逆计算芯片要让能量像潮汐磨坊一样往复利用 — MikePFrank · 2026-10-13