Ds4 v0.6.2 实测：单机 Spark 跑通 DeepSeek 284B，吞吐 1000tok/s
pbaylies · x · 2026-08-19
Ds4 引擎发布 v0.6.2 版本，通过引入真实的内存预算测量机制（基于实际使用量而非静态预留），实现了在共享算力环境下的稳定运行。实测显示，该版本可在单台 DGX Spark 上以 1000 tok/s 的预填充速度和 59 tok/s 的多智能体服务速度，稳定运行 284B 参数的 DeepSeek V4 Flash 模型。该设计允许显存需求按需映射，并在资源不足时优雅拒绝而非触发 OOM 崩溃。
「Infra」频道最新
- OCP 大会最后一日，Nvidia MGX 电源机架场次仍座无虚席 — firstadopter · 2026-10-16
- Intel 用 4 张 160GB 风冷 GPU 卡跑通 816B 参数 Muse Spark Open — BenBajarin · 2026-10-16
- 两台 Mac Studio 跑通 816B 参数模型：4 万美元替代 50 万算力 — charles_irl · 2026-10-16
- Filecoin 主网上线六年，转向 AI 时代存储并推出 S3 对象存储 — juanbenet · 2026-10-16
- PrismML 发布 Bonsai 2 三值模型:9B 仅 2GB 可跑手机 — gajesh · 2026-10-16
- Artificial Analysis 将测试 4-bit 量化与 Metal 投机解码引擎 — ArtificialAnlys · 2026-10-16