MMFlash 论文:视觉语言模型推测解码最高无损加速 3.58 倍
rsasaki0109 · x · 2026-11-16
Hugging Face 论文页发布 MMFlash,一个面向视觉语言模型(VLM)的推测解码加速框架。
- 问题:扩散式草稿模型(如 DFlash)虽能一次前向提出整块 token,但主要针对纯文本;多模态场景下草稿质量研究不足。
- 关键发现:作者提出基于 KL 散度的 token 级「视觉依赖度」指标,发现接受率随视觉依赖度从最低四分位的 46% 降至最高四分位的 22%,且多模态训练后差距依旧存在。
- 方法:MMFlash 自适应上加权草稿模型预测较差的视觉依赖 token;对长视频输入采用稀疏注意力,减少冗余注意力计算并提升草稿质量。
- 结果:在多个多模态基准上实现最高 3.58× 的无损解码加速,较 EAGLE-3 最高提升 195.4%,较 DFlash 提升 17.1%。
所属事件:MMFlash 视觉感知投机解码让多模态模型无损加速 3.58 倍(3 条相关)→
「研究」频道最新
- 研究曝百度 ERNIE-5.5 背题:96% HumanEval 泄漏,去污后垫底 — teortaxesTex · 2026-11-16
- 谁来评判 LLM 评审?新论文提出多语言探针检验评测指标 — kalyan_kpl · 2026-11-16
- VibePrevisBench:242 项任务评测编码智能体的 Blender 4D 场景生成 — Kling-Keye · 2026-11-16
- V-JEPA-LM:反事实监督让语言模型读懂视频动态,4B 级准确率 61.1→72.1 — Keuntae Kim · 2026-11-16
- 73 项水下图像质量指标对照人类偏好:没有一个靠谱,最好 kappa 仅 0.23 — DelhiTechnologicalUniversity · 2026-11-16
- 新论文为 signature kernel 岭回归给出有限样本与一致性保证 — chaumian · 2026-11-16