Liquid AI 发布 DSpark 草稿模型,推理提速 3 倍
JosephJacks_ · x · 2026-08-21
Liquid AI 发布了针对 LFM2.5 系列的 DSpark 草稿模型,采用推测解码技术,以极小的内存增加换取显著的解码速度提升,且不改变输出质量。
- 原理:轻量级草稿模型提议候选 token 块,目标模型在单次前向传播中验证。
- 性能:在 H100 上,LFM2.5-8B-A1B 在 MATH500 上的吞吐量提升至 3.18 倍(428 → 1362 tok/s);在 M4 Max MacBook Pro 上,1.2B 模型在 HumanEval 上提升 2.87 倍。
所属事件:Liquid AI 发布 DSpark 草稿模型,解码提速最高 3.18 倍(5 条相关)→
「模型」频道最新
- ChatGPT 推荐视频工具时提示「可通过 Runway 集成获取」,被讽疑似软广 — tlakomy · 2026-10-16
- 微软 MAI 自研 3T 参数级预训练基座模型完成,后训练结果即将公布 — soumitrashukla9 · 2026-10-16
- 实测 Gemini 4 Argon:速度远超 Opus 5.5,但幻觉多且贵 — prasenx · 2026-10-16
- Bindu Reddy 呼吁 Meta 开源 Wonder:称其略强于 DeepSeek — bindureddy · 2026-10-16
- Fortytwo Engine 用 Swarm Inference 让 Qwen3.8-27B 准确率升 7%、token 省 25% — rohanpaul_ai · 2026-10-16
- 「中国已追平前沿」?对比图显示 K3 仍落后 Microsoft MAI — scaling01 · 2026-10-16