GB300 登顶 agentic 推理基准,家用插座即可带动 DGX Station
TheZachMueller · x · 2026-10-14
Artificial Analysis 将 DeepSeek V4.1 Flash 加入其 AA-AgentPerf 智能体推理性能榜单,覆盖 NVIDIA 与 AMD 硬件:在每用户 100 tokens/s 条件下,NVIDIA GB300 以每兆瓦最高 2.61 亿 tokens/s 的吞吐量位居第一。
AA-AgentPerf 通过重放真实 agentic 编码会话(含 prompt 缓存与工具调用延迟)来模拟日常 agent 工作负载,同时测量系统每兆瓦总吞吐与不同并发下的单 agent 输出速度,展示系统利用率与用户体验的权衡。
Sentdex 补充:DGX Station 用的就是 GB300,标准美国家用插座即可供电,并感叹「GB30 级性能装进口袋还要多久」。
「Infra」频道最新
- Applied Materials:良率就是产能,检测设备价值重估 — BenBajarin · 2026-10-15
- MLPerf 成欧盟 AI Gigafactories 招标评分标准 — TheKanter · 2026-10-15
- DecisionModels 靠 Bittensor 子网 92 激励社区 GPU 托管决策模型 — airesearch12 · 2026-10-15
- DecisionModels 上线:开放权重决策模型 API,$0.019/百万输入 token — airesearch12 · 2026-10-15
- Astera Labs 携手 Lumentum 现场演示光 PCIe:x8 PCIe 5 链路点亮 — BenBajarin · 2026-10-15
- 印度 GPU 租赁过剩,IndiaAI 计划允许服务商出海找客户 — deepakns · 2026-10-15