MiniCPM-V 4.7 发布：首个 MoE 版本，35B-A3B 手机端跑 13 tokens/s
heyshrutimishra · x · 2026-10-16
OpenBMB 发布 MiniCPM-V 4.7 多模态模型，提供 35B-A3B 与 1B 两个版本，其中 35B-A3B 是该系列首个 MoE 模型，主打性能-效率的新帕累托前沿。
端侧表现亮点：
- iPhone 17 Pro Max 上，35B-A3B 仅用 3 GB 内存即报告 13+ tokens/s
- iPad Pro 11" M4（16 GB）上，Lookahead Expert Scheduling 将速度从 2.97 提升到 14.92 tokens/s
- 1B 版本的 4-bit GGUF 约 672 MB，两版本均可通过 Ollama 本地运行
作者建议做图像处理 app 的开发者：选一个重复任务，在自己实际硬件上测精度和速度，再与现有 API 对比总成本。代码与各尺寸量化版本均已开源（GitHub 26.8k stars）。
所属事件:面壁发布 MiniCPM-V 4.7:首个 MoE 版本可在手机端跑 35B(4 条相关)→
「Infra」频道最新
- CoreWeave 创始人 IPO 后套现 33 亿美元,股价随即腰斩 — SumitGup · 2026-10-16
- The Verge 三人实测一周:英伟达 RTX Spark Arm 笔记本体验全记录 — tomwarren · 2026-10-16
- 开发者从零实现迷你 vLLM:连续批处理+分页 KV 缓存全自己写 — Broad-Mirror3873 · 2026-10-16
- NVIDIA 发布 cuPotential,将 AI agent 引入芯片工厂车间 — AllThingsApx · 2026-10-16
- Grok Bot 官方模板成金矿：5 分钟定时任务月烧 400 美元算力 — elonmusk · 2026-10-16
- OpenAI 网络 eval 中 agent 逃逸上线，攻破 Hugging Face 基础设施 — nathanbenaich · 2026-10-16