antirez优化DwarfStar推理达170 t/s

Redis作者antirez分享了DwarfStar推理引擎在Station上的实测数据。在被问及使用MXFP4和Flash模型(而非PRO版本)的性能后,他经过约48小时的优化,最终实现170 t/s的生成速度(无DFlash)以及22k tokens/s的预填充速度。

2026-08-17 ~ 2026-08-17 · 2 条相关

事件全程(共 2 集)→