DeepSeek v4 本地部署优化:预填充速度飙至 3000 t/s
antirez · x · 2026-08-18
Redis 作者 antirez 展示了 DeepSeek v4 PRO 在 DGX Station 上的极致性能。通过利用该设备独特的 RAM 与 VRAM 混合设置进行技术优化,预填充速度达到了惊人的 3000 tokens/s,且仍有提升空间。
所属事件:DeepSeek v4 本地部署预填充速度飙至 3000 t/s(2 条相关)→
「Infra」频道最新
- Kimi K3 Kernel 实现超官方 2 倍性能 — ChengleiSi · 2026-08-19
- 实测:UnifyGTM 在发布前两周将模型成本降低 90-95% — LangChain · 2026-08-19
- 光互连普及速度将慢于预期,制造是瓶颈 — BenBajarin · 2026-08-19
- Modular 宣布 MAX 平台与 Mojo 语言更新 — carrycooldude · 2026-08-19
- CoreWeave 宣布 2026 年 Fully Connected 大会 — wandb · 2026-08-19
- Databricks:下一代数据库将为 Agent 而构建 — matei_zaharia · 2026-08-19