DeepSeek v4 本地部署预填充速度飙至 3000 t/s

Redis 作者 antirez 展示了 DeepSeek v4 PRO 在 DGX Station 上的极致性能：通过利用该设备独特的 RAM 与 VRAM 混合设置进行优化，即便模型大于显存容量，借助 DwarfStar 编排技术协调主机内存与显存，预填充速度仍飙升至 3000 tokens/s，展示了大模型本地部署在异构内存架构下的优化潜力。

2026-08-18 ~ 2026-08-18 · 2 条相关

事件全程(共 3 集)→

• 第 1 集:Redis作者优化DeepSeek V4推理速度达45 t/s(2026-08-17,3 条)
• 第 2 集:antirez优化DwarfStar推理达170 t/s(2026-08-17,2 条)
• 第 3 集:DeepSeek v4 本地部署预填充速度飙至 3000 t/s(2026-08-18,2 条)

• DeepSeek v4 本地部署优化：预填充速度飙至 3000 t/s — antirez · 2026-08-18
• DwarfStar 利用异构内存实现 3000 t/s 推理 — antirez · 2026-08-18