专题 · FULL STORY
antirez狂飙：DeepSeek V4本地推理加速
Redis 作者 antirez 持续优化自研 DwarfStar 推理引擎，借助量化与冷热专家分层技术，将 DeepSeek V4 本地推理速度从 45 t/s 一路推至 170 t/s，最终在 DGX Station 上实现预填充 3000 t/s。
2026-08-17 ~ 2026-08-18 · 3 集 · 7 条
第 1 集 · Redis作者优化DeepSeek V4推理速度达45 t/s(2026-08-17,3 条)
Redis作者antirez展示了DwarfStar推理引擎的进展，通过Q2量化和动态路由专家冷热分层技术，将DeepSeek V4 PRO模型在单机上的推理速度提升至45 t/s。该优化能根据使用情况自适应地将专家从VRAM迁移至RAM。
- DeepSeek v4 PRO Q2 实测：VRAM/RAM 混合推理达 45 t/s — antirez · 2026-08-17
- antirez 的 DwarfStar:专家冷热分层,单机跑 DeepSeek V4 达 45 t/s — antirez · 2026-08-17
- 动态路由专家迁移：从 VRAM 到 RAM 的自适应优化 — antirez · 2026-08-17
第 2 集 · antirez优化DwarfStar推理达170 t/s(2026-08-17,2 条)
Redis作者antirez分享了DwarfStar推理引擎在Station上的实测数据。在被问及使用MXFP4和Flash模型（而非PRO版本）的性能后，他经过约48小时的优化，最终实现170 t/s的生成速度（无DFlash）以及22k tokens/s的预填充速度。
- antirez优化DwarfStar：Station上170 t/s生成，22k tokens/s预填充 — antirez · 2026-08-17
- DwarfStar 推理引擎实测：Station 170 t/s 生成 — antirez · 2026-08-17
第 3 集 · DeepSeek v4 本地部署预填充速度飙至 3000 t/s(2026-08-18,2 条)
Redis 作者 antirez 展示了 DeepSeek v4 PRO 在 DGX Station 上的极致性能：通过利用该设备独特的 RAM 与 VRAM 混合设置进行优化，即便模型大于显存容量，借助 DwarfStar 编排技术协调主机内存与显存，预填充速度仍飙升至 3000 tokens/s，展示了大模型本地部署在异构内存架构下的优化潜力。
- DeepSeek v4 本地部署优化：预填充速度飙至 3000 t/s — antirez · 2026-08-18
- DwarfStar 利用异构内存实现 3000 t/s 推理 — antirez · 2026-08-18