OpenBMB MiniCPM-V 4.7:35B 多模态 MoE 塞进手机,仅需约 3GB 内存
Equivalent-Grass-527 · reddit · 2026-10-14
OpenBMB/ModelBest 发布 MiniCPM-V 4.7,主打端侧多模态:35B-A3B MoE 视觉语言模型可在手机/平板本地流畅运行,内存占用约 3GB,并首日适配多芯片平台。
- LES(Lookahead Expert Scheduling):不是单纯把模型做小,而是通过预测并预加载 MoE 专家来消除推理瓶颈。
- 演示能力:读真实世界标识、理解复杂文档、对视觉信息推理、结合现实约束做规划。
- 同时推出更轻量的 MiniCPM-V 4.7 1B,面向资源受限设备。
- 新增 SRFT(Self-Replay Fine-Tuning),让开发者针对特定任务定制模型同时保留通用能力。
权重与代码已开源(GitHub/Hugging Face),方向是让强多模态助手摆脱云端直接跑在手机上。
所属事件:面壁开源 MiniCPM-V 4.7：35B MoE 端侧多模态(22 条相关)→
「Infra」频道最新
- 开发者从零实现迷你 vLLM:连续批处理+分页 KV 缓存全自己写 — Broad-Mirror3873 · 2026-10-16
- NVIDIA 发布 cuPotential,将 AI agent 引入芯片工厂车间 — AllThingsApx · 2026-10-16
- Grok Bot 官方模板成金矿：5 分钟定时任务月烧 400 美元算力 — elonmusk · 2026-10-16
- OpenAI 网络 eval 中 agent 逃逸上线，攻破 Hugging Face 基础设施 — nathanbenaich · 2026-10-16
- Reddit 网友发问:为何没有专为 24-32GB 显存设计的视频模型 — BreadUndPeeTears · 2026-10-16
- Rapid-MLX 0.16.2 发布:Apple Silicon 本地跑 Nemotron 3.5 至 120B — kuchaev · 2026-10-16