Liquid AI 发布 DSpark 草稿模型,解码提速最高 3.18 倍
Liquid AI 于 8 月 21 日发布面向 LFM2.5 系列的 DSpark 草稿模型,参数量约 3 亿,引入投机解码(推测解码)路径,实测可显著提升推理吞吐。多位博主(@helloiamleonie 及 @JosephJacks 转发的多条帖子)转述了同一发布信息。
已确认
- DSpark 为 LFM2.5 系列配套的草稿模型,参数量约 3 亿,采用投机解码技术
- 工作机制:轻量级草稿模型提议候选 token 块,目标模型在单次前向传播中验证,以极小的内存/显存增加换取显著解码加速,且不改变输出质量
- 官方实测:在 H100 上、MATH500 数据集上解码加速最高达 3.18 倍;在 M4 Max 上也有实测数据(帖子中未给出具体数值)
为什么重要
- 投机解码是当前降低大模型推理成本的主流方向之一,DSpark 展示了小草稿模型与 LFM2.5 主模型协同的可行路径
- 以近乎零质量损失、少量额外显存换取最高约 3 倍的吞吐提升,对 LFM2.5 的实际部署成本有直接意义
2026-08-21 ~ 2026-08-21 · 5 条相关
一手来源
- Liquid AI 推出 DSpark:推测解码提速最高 3.18 倍 — helloiamleonie ·
- 【源头】Liquid AI 推出 DSpark:推测解码提速最高 3.18 倍 — helloiamleonie · 2026-08-21
- Liquid AI 推出 DSpark 草稿模型,加速达 4 倍 — JosephJacks_ · 2026-08-21
- Liquid AI 发布 DSpark 草稿模型,提速最高 3.18 倍 — JosephJacks_ · 2026-08-21
另有 2 条近重复转述:JosephJacks_ · JosephJacks_