Ds4 v0.6.2 实测：单机 Spark 跑通 DeepSeek 284B，吞吐 1000tok/s
pbaylies · x · 2026-08-19
Ds4 引擎发布 v0.6.2 版本，通过引入真实的内存预算测量机制（基于实际使用量而非静态预留），实现了在共享算力环境下的稳定运行。实测显示，该版本可在单台 DGX Spark 上以 1000 tok/s 的预填充速度和 59 tok/s 的多智能体服务速度，稳定运行 284B 参数的 DeepSeek V4 Flash 模型。该设计允许显存需求按需映射，并在资源不足时优雅拒绝而非触发 OOM 崩溃。
「Infra」频道最新
- Marvell 获 Google 认股证，合作开发 TPU 生态定制芯片 — firstadopter · 2026-08-19
- Marvell 与 Google 签定制芯片协议，接入 TPU 生态用于 AI 推理 — firstadopter · 2026-08-19
- SALT：基于 CELF 的 KV Cache 句子级压缩检索 — No_Sky9786 · 2026-08-19
- 超越人类直觉：AI 设计出 500 倍于工程师极限的微小芯片组件 — ChuckDBrooks · 2026-08-19
- ComfyUI 突发卡顿崩溃，MiniMax H3 节点报错求助 — Fit-Association-448 · 2026-08-19
- 建议 Anthropic 用 Tenstorrent 降低推理成本 — DavidBennett__ · 2026-08-19