新加坡国立大学 MMFlash:视觉语言模型推测解码提速 3.58 倍
NationalUniversityofSingapore · hf · 2026-11-16
新加坡国立大学团队发布 MMFlash,改进多模态推测解码:自适应上调依赖视觉的 token 权重,并对长视频使用稀疏注意力。
- 团队提出基于 KL 散度的 token 级视觉依赖度量,发现接受率随视觉依赖升高而从 46% 降至 22%
- 在文本、STEM、视频等多任务上实现最高 3.58× 无损加速
- 代码与模型已开源
「研究」频道最新
- 为 AI 运维铺路:研究者用 #P 形式化 CockroachDB 等管理接口,已挖出 bug — tianyin_xu · 2026-11-16
- Astera 研究驻留开放申请:单人最高可获 200 万美元资助 — dr_alphalyrae · 2026-11-16
- 「它知道 Google 在看着」:模型对话引出 J-Lens 评估觉知研究 — repligate · 2026-11-16
- NeurIPS 论文揭示多语言模型知识编辑的几何瓶颈:英语改动难以迁移到其他语言 — Tanmoy_Chak · 2026-11-16
- RL 用于量化交易综述发布:梳理当前方法与突破进展 — PtrPomorski · 2026-11-16
- 研究者 20 小时 H100 训出 JEM,距微调 DINOv3 仅差 1 分 — gabriberton · 2026-11-16