DeepSeek v4 PRO 实测：DwarfStar 优化显存峰值 50 t/s
antirez · x · 2026-08-18
DeepSeek v4 PRO 在 DwarfStar 上的实测表现：在 DGX Station 上运行，未开启 DSpark 时峰值已达 50 tokens/s。关键技术包括基于历史统计的动态 VRAM/RAM 专家分配、大块数据 4k t/s prefill 以及 layer-major 流式传输。作者指出混合 RAM/VRAM 推理需要谨慎处理。
「Infra」频道最新
- Cursor 创始人吐槽：沙箱间可共享读写盘是公有云最贵的东西 — thdxr · 2026-10-17
- VaeZip 开源:VAE latent 数据集压缩 5-10 倍,几乎不损质量 — TensorForger · 2026-10-17
- 全球设备对时靠一个文本文件,UCLA 教授义务维护 tzdata 近 20 年 — PMinervini · 2026-10-17
- Google Cloud 发布 GPU/TPU 科普新文档,从 CUDA 核讲到适用场景 — rseroter · 2026-10-17
- 卖 10 部 iPhone Duo 的钱就能买满一间本地 GPU 实验室 — AIFlow_ML · 2026-10-17
- Nvidia MaxLPS 同功率下榨出 30-40% 性能,CUDA 之父称华尔街没算到 — bookwormengr · 2026-10-17