FlashMap 投机解码基于流映射,Qwen3-8B 推理提速超 6 倍
caglarml · x · 2026-10-25
- FlashMap 是一种基于 flow map 语言模型的投机解码新算法,由 jeffshen 团队发布,附项目页与 arXiv 论文。
- 核心思路:flow map 语言模型只需 1-2 次前向即可捕捉 token 间依赖,用它作为投机解码的 drafter 非常契合,在 Qwen3-8B 上实现 超过 6 倍 的推理加速。
- sedielem 评价该工作表现出色,并称赞其中的 shuffle test 检验方法。
「模型」频道最新
- 权重压到 -1/0/+1:语音模型从 2.4GB 瘦身到 181MB,WER 仅升 0.4 个点 — lmoroney · 2026-10-25
- 疑似 DeepSeek V4.1 Flash 现身 Hugging Face,仅 763B 参数 — jacek2023 · 2026-10-25
- DeepSeek-V4.1-Flash EXL3-3bpw 量化版可在双卡 RTX PRO 6000 上运行 — No-Paper-557 · 2026-10-25
- 开发者吐槽 Opus 5.5 编码易死磕差方案,Codex 更会调研 — haider1 · 2026-10-25
- 用户实测:Claude Opus 拒绝反编译,GPT-6 却爽快配合 — CtrlAltDwayne · 2026-10-25
- 用户称 Hermes 像「无限关卡游戏」,越用越上头停不下来 — Teknium · 2026-10-25