Liquid AI 推出 DSpark 草稿模型,加速达 4 倍
JosephJacks_ · x · 2026-08-21
Liquid AI 发布了针对 LFM2.5 系列的 DSpark 草稿模型,通过投机解码技术大幅提升推理速度。
- 核心原理:利用轻量级草稿模型提议候选 token,目标模型在单次前向传播中验证,以少量显存增加换取巨大速度提升。
- 性能数据:
- H100 上:LFM2.5-8B-A1B 在 MATH500 上吞吐量从 428 提升至 1362 tok/s(约 3.18 倍)。
- 端侧(M4 Max):LFM2.5-1.2B-Instruct 在 HumanEval 上从 136 提升至 389 tok/s(约 2.87 倍)。
- LFM2.5-2.6B 在 H100 上达 2.67 倍加速。
- 适用场景:特别适合端侧函数调用应用或云端对延迟敏感的负载。
所属事件:Liquid AI 发布 DSpark 草稿模型,解码提速最高 3.18 倍(5 条相关)→
「模型」频道最新
- Muse Spark Open 经 llama.cpp 跑通 M3 Ultra:前沿模型上桌面 — pcuenq · 2026-10-16
- OpenAI 推出 GPT-Live-1.1 语音升级:新增六语种声音、更少卡顿 — OpenAI · 2026-10-16
- LMArena 上线 Muse Spark 新模型,Battle 与 Agent 模式可测 — arena · 2026-10-16
- 多模型同题设计 UI:用 Paseo 编排四套界面方案竞技 — vista8 · 2026-10-16
- Ilya 质疑 Meta 新许可证:年收入超 2000 万美元的推理服务商须与 Meta 另签协议 — ilyasu · 2026-10-16
- Muse-Spark 开源权重发布:816B MoE 模型 MLX 3bit 版已上线 — ns123abc · 2026-10-16