antirez优化DwarfStar推理达170 t/s
Redis作者antirez分享了DwarfStar推理引擎在Station上的实测数据。在被问及使用MXFP4和Flash模型(而非PRO版本)的性能后,他经过约48小时的优化,最终实现170 t/s的生成速度(无DFlash)以及22k tokens/s的预填充速度。
2026-08-17 ~ 2026-08-17 · 2 条相关
- 第 1 集:Redis作者优化DeepSeek V4推理速度达45 t/s(2026-08-17,3 条)
- 第 2 集:antirez优化DwarfStar推理达170 t/s(2026-08-17,2 条)
- antirez优化DwarfStar:Station上170 t/s生成,22k tokens/s预填充 — antirez · 2026-08-17
- DwarfStar 推理引擎实测:Station 170 t/s 生成 — antirez · 2026-08-17