LiquidAI 把投机解码扩展到视觉语言模型，文本图像统一处理
JosephJacks_ · x · 2026-09-25
LiquidAI 介绍如何将他们用于文本 LFM 的投机解码（speculative decoding）方法自然扩展到视觉语言模型。
核心观察：信息到达语言骨干的隐层时，文本 token 和图像 patch 都已表示为张量，从 drafter（草稿模型）视角看原始模态不再重要。具体做法是用轻量 drafter 基于 LFM2.5-VL-3B 不同层的隐藏状态猜测后续多个 token，目标模型单次前向验证整个块。
由于匹配采样设置下投机解码与直接从目标模型采样在分布上等价，输出是无损的。
「模型」频道最新
- Relace 成 OpenRouter 最便宜 DeepSeek v4.1 Flash 供应商 — ilyasu · 2026-09-25
- 低成本模型 Jev 展现出一年前顶级模型水平的全球地理理解 — zetalyrae · 2026-09-25
- Claude Opus 5.5 以 88.4% 登顶 SimpleBench — Profanion · 2026-09-25
- Anthropic 恢复对安全拦截请求收费:99.7% 用户不受影响 — ClaudeDevs · 2026-09-25
- 开发者断言：真正拖住 Claude 模型的是 Claude Code 本身 — tokenbender · 2026-09-25
- 博主称 Opus 5.5 惊艳表现暗示 xAI 的 Astra 体量更小 — scaling01 · 2026-09-25