DwarfStar 结合投机解码显著提升 DeepSeek 推理速度

开发者 antirez 介绍了 DwarfStar 推理栈，该技术通过结合 DFlash 投机解码，在 Metal 和 DGX Spark 环境下大幅提升了模型运行效率。实测数据显示，借助该引擎在单台 DGX Spark 上部署 DeepSeek-V4-Flash，可在同权重下实现 27% 的推理速度提升，为本地大模型部署提供了有效优化方案。

2026-08-09 ~ 2026-08-10 · 2 条相关