MiniCPM-V 4.7 上榜:35B-A3B MoE 模型手机端 3GB 内存可跑
lmoroney · x · 2026-10-18
OpenBMB 的 MiniCPM-V 4.7 冲上 Hugging Face 趋势榜第 3,成为「手机到底能跑多大模型」的一个实用参照点。
- 35B-A3B MoE 版:可在 iOS 和 Android 上以约 3GB 内存流畅运行
- 1B 版:具备较强的 OCR、数学和视频理解能力
作者还科普了「A3B」的含义:35B 总参数中每个 token 只激活约 3B,这种稀疏路由是手机硬件能跟得上的关键。他建议移动开发者做个小项目:用 1B 模型识别收据或白板照片,看看完全离线能走多远。
所属事件:MiniCPM-V 4.7 发布：手机 3GB 内存跑 35B MoE 多模态(7 条相关)→
「Infra」频道最新
- SlateDB+Lance+Datafusion 自建数据栈,为客户年省数百万美元 — sh_reya · 2026-10-18
- 视频生成 API 每 10 秒约 0.5 美元,自建服务器何时更划算? — Key-Lychee-913 · 2026-10-18
- vLLM 联手 NVIDIA 优化 Kimi K3:GB300 上解码达 842 tokens/s — vllm_project · 2026-10-18
- SemiAnalysis 的 vLLM 提速对比被质疑：TP16 对 TP8 基线 — JiaZhihao · 2026-10-18
- Blackstone 全线押注 AI:2000 亿美元数据中心组合与 950 亿芯片融资 — SuB8u · 2026-10-18
- NVIDIA RTX VFX 扩展装不上？一条 pip 命令搞定 ComfyUI 安装 — Mad4reds · 2026-10-18