Liquid AI 推出 DSpark:推测解码提速最高 3.18 倍

helloiamleonie · x · 2026-08-21

Liquid AI 发布了 LFM2.5 系列的 DSpark 草稿模型。该技术通过轻量级模型预测候选 token,再由目标模型在单次前向传播中验证,在几乎不增加显存且不改变输出质量的前提下显著提升解码速度。实测数据显示,在 H100 上 MATH500 任务吞吐量提升至 3.18 倍,在 MacBook Pro M4 Max 上 HumanEval 任务提升至 2.87 倍。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →