OpenBMB 发布 MiniCPM-V 4.7,端侧多模态对标 Qwen3.6
OpenBMB 于 10 月 17 日发布多模态模型 MiniCPM-V 4.7,提供 35B-A3B 与 1B 两个版本,主打端侧多模态与文档理解。Hugging Face 的 Niels Rogge 连发多条帖子介绍该模型的官方 benchmark、本地运行与配套工具,整体结论是:同等规模下文档理解跑赢 Qwen3.6,且本地部署门槛极低,值得关注。
已确认
- MiniCPM-V 4.7 提供两个版本:35B-A3B 是系列首个 MoE 模型(35B 总参/3B 激活),采用 4 倍视觉 token 压缩;另有 1B 版本,仅占 2.9GB 内存,面向端侧。
- 官方对比 Qwen3.6-35B-A3B(同为 35B 总参/3B 激活架构):在 OmniDocBench 文档理解基准上高出约 14 分。
- 本地运行表现:Niels Rogge 演示用 llama.cpp 运行 MiniCPM-V 4.7,仅需约 3GB 内存即达到 100 tokens/秒的生成速度,并附完整教程线程。
- 同步发布 DSpark 草稿头:专为 35B-A3B 目标模型配对训练的投机解码草稿检查点(另有 1B 版本),草稿侧仅 5 层、约 3.89 亿参数,每次前向提出 15 个 token 供主模型验证,解码接受长度最高达 7.4。
- 部署方式上,Rogge 建议把 OpenBMB 的 Hugging Face 模型页直接交给 Claude 或其他编码 agent,让其用 llama.cpp 自动跑起来。
为什么重要
- 在 35B-A3B 这一 MoE 规格档位上,MiniCPM-V 4.7 以约 3GB 显存、100 tokens/秒的本地表现,展示了多模态模型端侧化的可行路径。
- DSpark 这类轻量草稿头(3.89 亿参数即实现最高 7.4 的接受长度)为小模型投机解码加速提供了新范式。
- 官方 benchmark 声称对 Qwen3.6-35B-A3B 有 14 分优势,若经第三方验证,将改变同规模多模态模型的竞争格局。
2026-10-17 ~ 2026-10-17 · 5 条相关
一手来源
- MiniCPM-V 4.7 发布:35B-A3B MoE 文档理解跑赢 Qwen3.6,1B 仅占 2.9GB 内存 — NielsRogge ·
- MiniCPM-V 4.7 文档理解碾压 Qwen3.6,OmniDocBench 高出 14 分 — NielsRogge ·
- MiniCPM-V 4.7 仅占 3GB 显存,本地跑出 100 tokens/秒 — NielsRogge ·
- 【源头】MiniCPM-V 4.7 仅占 3GB 显存,本地跑出 100 tokens/秒 — NielsRogge · 2026-10-17
- 让 Claude 指着 HuggingFace 页面自动部署 MiniCPM-V 4.7 — NielsRogge · 2026-10-17
- 【源头】MiniCPM-V 4.7 文档理解碾压 Qwen3.6,OmniDocBench 高出 14 分 — NielsRogge · 2026-10-17
- OpenBMB 发布 DSpark 草稿头,MiniCPM-V 4.7 解码接受长度最高 7.4 — NielsRogge · 2026-10-17
- 【源头】MiniCPM-V 4.7 发布:35B-A3B MoE 文档理解跑赢 Qwen3.6,1B 仅占 2.9GB 内存 — NielsRogge · 2026-10-17