DeepSeek V4.1 Flash 在 GB300 上一个月提速 1.5 倍
ArtificialAnlys · x · 2026-11-07
Artificial Analysis 的 AA-AgentPerf 基准(重放真实编码 agent 轨迹测数据中心推理系统)显示,DeepSeek V4.1 Flash 在 GB300 NVL72 上一个月内单 agent 速度大幅提升:
- 单 agent 速度:848 tok/s,此前为 596 tok/s(1.42x)
- 同速吞吐:每 agent 80 tok/s 时,每 GPU 吞吐约 1.6 倍
- 提升来自:新版 vLLM、GB300 上 DeepSeek V4.1 的新 vLLM kernel、FlashInfer 自动调优、更完整的 CUDA graph 覆盖、调优后的投机解码,以及 NVIDIA 更新的 Dynamo + vLLM 方案中 prefill 与 decode 同卡运行
说明推理栈软件优化能在数周内带来硬件级别的性能差异。
所属事件:DeepSeek V4.1 Flash 推理提速:GB300 月内快 1.5 倍,Rubin 单卡吞吐至 5 倍(2 条相关)→
「Infra」频道最新
- 马斯克:数据中心不受欢迎只是暂时的,孟菲斯已因它繁荣 — inductionheads · 2026-11-07
- KubeCon 北美 2026 维护者轨道：AI 与 GPU 主题贯穿全部三天 — HowDevelop · 2026-11-07
- Databricks 工程副总裁与 Neon 联创对谈：为 AI Agent 设计的数据库架构 — matei_zaharia · 2026-11-07
- 软银信贷风险升至 4 年新高,单日暴跌 10.8% 押注 OpenAI 承压 — rohanpaul_ai · 2026-11-07
- 马斯克:AI 代理流量已超人类,Cloudflare 千倍预测仍属低估 — elonmusk · 2026-11-07
- Ben Bajarin 算账：2024-2030 AI 资本开支 9.6 万亿 vs 可追踪收入 4.1 万亿 — BenBajarin · 2026-11-07