Liquid AI 发布 DSpark 推理加速,吞吐提升 3 倍
JosephJacks_ · x · 2026-08-21
Liquid AI 发布了 LFM2.5 系列的 DSpark draft 模型,引入推测解码路径。该方法通过轻量级模型提出候选 token,再由主模型一次前向传播验证,仅增加少量内存即可大幅提升解码速度。实测显示,在 H100 上吞吐量最高提升 3.18 倍,在 M4 Max 上提升 2.87 倍,且不改变输出质量。
所属事件:Liquid AI 发布 DSpark 草稿模型,解码提速最高 3.18 倍(5 条相关)→
「Infra」频道最新
- 黄仁勋:马斯克 AI 算力规模已从 K 级跃升至 M 级 — elonmusk · 2026-10-16
- EpochAI 估 GPT-6 训练算力 4.6e26 FLOP,引算力圈质疑参数高估 — scaling01 · 2026-10-16
- Meta Muse Spark Open 智能指数仅 39,比闭源 1.3 低 9 分 — EAccelerate_42 · 2026-10-16
- LLM 优化 ffmpeg 模糊滤镜:每帧 95GB 冗余拷贝,耗时从 2452ms 降到 49ms — IgorCarron · 2026-10-16
- DeepSeek-V4-Flash 跑上 4 张 R9700:被“拒启”的四卡配置实测可行 — brainchillzZ · 2026-10-16
- TRL 引入树形打包:Agentic RL 训练前反向计算提速超 26 倍 — joecole · 2026-10-16