Liquid AI 发布 DSpark 草稿模型,提速最高 3.18 倍

JosephJacks_ · x · 2026-08-21

Liquid AI 为 LFM2.5 系列发布了 DSpark 草稿模型(约 3 亿参数),采用投机解码技术。通过小模型提议、大模型验证的机制,在 H100 上实现了最高 3.18 倍的解码加速(MATH500 数据集),在 M4 Max 上加速达 2.87 倍。该技术仅在贪婪解码下保持输出完全一致,不改变模型精度,目前已获 llama.cpp 和 SGLang 支持。

所属事件:Liquid AI 发布 DSpark 草稿模型,LFM2.5 解码提速最高 3.18 倍(5 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →