LFM2.5-DSpark 推理提速 3.2 倍，GGUF 版本已发布
pmttyji · reddit · 2026-08-21
作者分享了 LFM2.5-DSpark 模型在 Speculative Decoding（投机解码）下的性能提升，据称推理速度最高可达 3.2 倍。相关 PR 已合并，官方 GGUF 版本已上线 Hugging Face，涵盖 1.2B、2.6B 和 8B 等多个尺寸。作者同时提醒不要使用 PR 中的测试版 GGUF，并询问在移动端运行该方案的方法。
所属事件:LiquidAI LFM2.5-DSpark 借投机解码提速 3.2 倍，GGUF 版发布(2 条相关)→
「Infra」频道最新
- Muse Spark Open 经 llama.cpp 跑通 M3 Ultra：前沿模型上桌面 — pcuenq · 2026-10-16
- Muse-Spark 开源权重发布：816B MoE 模型 MLX 3bit 版已上线 — ns123abc · 2026-10-16
- vLLM 实现 Muse Spark Open Day-0 LoRA RL，AIME 从 0.56 提至 0.85 — vllm_project · 2026-10-16
- Inferact 为 Muse Spark Open 训练 DSpark 草稿模型，一次最多出 7 个 token — vllm_project · 2026-10-16
- Cloudflare Stream WebRTC 低延迟直播正式 GA,可扩展至百万观众 — ritakozlov · 2026-10-16
- YC 孵化 Overshoot 主打推理优化：已帮客户省超 500 万美元 GPU 账单 — ycombinator · 2026-10-16