DS4F 推理实测：单会话 261 tokens/s，批处理达 1479 tokens/s
antirez · x · 2026-08-19
开发者 MrCatid 分享了在 GB300 DGX Station 上运行 DS4F (DeepSeek 4 Flash) 的推理性能数据：使用 DFlash 技术时，单会话吞吐量达到 261 tokens/秒，批大小为 16 时更是达到了 1479 tokens/秒。Redis 作者 antirez 转发并表示惊讶，希望能找到卖家购买该设备。
所属事件:DeepSeek-V4-Flash 跑分曝光，单机吞吐最高 4550 tok/s(2 条相关)→
「Infra」频道最新
- 发布 Rust 二进制体积分析工具 cargo-bsize — charliermarsh · 2026-08-19
- 开放MAX并建立开放联盟，统一NVIDIA、AMD、Trainium等AI芯片 — clattner_llvm · 2026-08-19
- Higgsfield 选 Together AI 部署，依托专用容器推理 — togethercompute · 2026-08-19
- ModCon '26 收官：Mojo 正式开源，异构计算有了软件平台 — clattner_llvm · 2026-08-19
- Grok 4.6 登陆 Amazon Bedrock:500k 上下文、四档推理力度 — SpaceXAI · 2026-08-19
- vLLM+LMCache 生产实战：KV 缓存复用加速长上下文 Agent — Old_Ad_6033 · 2026-08-19