Liquid AI 推出 DSpark:推测解码提速最高 3.18 倍
helloiamleonie · x · 2026-08-21
Liquid AI 发布了 LFM2.5 系列的 DSpark 草稿模型。该技术通过轻量级模型预测候选 token,再由目标模型在单次前向传播中验证,在几乎不增加显存且不改变输出质量的前提下显著提升解码速度。实测数据显示,在 H100 上 MATH500 任务吞吐量提升至 3.18 倍,在 MacBook Pro M4 Max 上 HumanEval 任务提升至 2.87 倍。
「Infra」频道最新
- Cursor 揭秘 Git 存储新架构:S3 即真源,本地仅缓存 — xennygrimmato_ · 2026-08-21
- Google Antigravity 扩展至 VS Code 等主流 IDE — rseroter · 2026-08-21
- Unsloth Desktop 更新:实验性自动压缩与局域网远程访问 — danielhanchen · 2026-08-21
- AMD ROCm 10.1 惊艳实测:无需折腾即可完美运行 LLaMA.cpp — smellof · 2026-08-21
- RAG vs CAG:利用 KV 缓存实现 90% 成本削减 — blaizedsouza · 2026-08-21
- 传英伟达将于 2026 年底前向中国出货新款 AI 芯片 — Polymarket · 2026-08-21