Liquid AI 推出 DSpark 投机解码,VL 模型提速超 3 倍

Liquid AI 发布实验性 DSpark 草稿模型 LFM2.5-VL-3B-DSpark,为其视觉语言模型 LFM2.5-VL-3B 引入投机解码。该方案由约 279.5M 参数的轻量 drafter 一次提出多个 token,目标模型单次前向验证,在不改变输出结果的前提下将解码速度最高提升至约 3 倍(3.13 倍),显著降低视觉语言模型的推理延迟。

2026-09-24 ~ 2026-09-25 · 4 条相关

另有 3 条近重复转述:JosephJacks_ · helloiamleonie · JosephJacks_