MiniCPM-V 4.7:35B MoE 多模态模型跑进手机,仅需 3GB 内存
alifcoder · x · 2026-10-14
OpenBMB 发布 MiniCPM-V 4.7,把 35B-A3B 的 MoE 多模态模型塞进手机端侧运行,内存占用仅约 3GB:
- LES(Lookahead Expert Scheduling):前瞻式专家调度,是让 35B 级 MoE 在移动设备上高效推理的关键推理工程
- 实机演示覆盖识读现实路牌、带约束的规划、复杂文档解析与视觉推理
- 另有 1B 轻量版,面向资源受限硬件的多模态理解,覆盖 iOS 与 Android
- 配套 SRFT(Self-Replay Fine-Tuning)方法,开发者可定制新任务而不损失通用性能
转发者 alifcoder 表示,本是为 35B 模型点进来,结果被专家调度这套推理工程圈粉——端侧大模型的高效推理是这条帖子真正的技术看点。
所属事件:面壁开源 MiniCPM-V 4.7：35B MoE 多模态跑进手机(18 条相关)→
「Infra」频道最新
- 英伟达支持的 Lambda 拟 IPO 前融资 40 亿美元，估值 145 亿 — Beth_Kindig · 2026-10-14
- IBM STAIR 借目录检索，幻觉率降至 0.05%，比对手低 65 倍 — alex_verem · 2026-10-14
- 微制造公司 Atomic Machines 隐身六年后亮相,累计融资 2.5 亿美元 — jfiance · 2026-10-14
- 开源 Mac 应用 DigUp 用 EmbeddingGemma 实现全本地语义搜索 — TheMoonMidas · 2026-10-14
- 纯 C 推理引擎 Janas 从 SSD 流式加载 MoE,32GB 笔记本跑 80B 达 37 tok/s — petrusenko_max · 2026-10-14
- FinOps 视角谈 Agentic AI：如何管住失控的云与 token 成本 — DavidLinthicum · 2026-10-14