SemiAnalysis:NVIDIA 推理效能最高领先 AMD 5 倍
rohanpaul_ai · x · 2026-08-25
SemiAnalysis 最新报告指出,在 150 tok/s/user 的负载下,NVIDIA 的成本效率最高可达 AMD 的 5 倍。报告同时发布了 AgentX 1.0,这是首个针对多轮 Agent 工作流的开源推理基准,上下文长度达 100 万,覆盖 GB300、MI355、B200 等主流芯片。测试表明,在 Agent 工作流中,NVIDIA 的 CUDA 护城河依然显著。
所属事件:SemiAnalysis:NVIDIA 推理成本效率最高达 AMD 5 倍(2 条相关)→
「Infra」频道最新
- 西弗吉尼亚拟吸引数据中心,配套核电站成优势 — mimi10v3 · 2026-08-25
- JetBrains 本地 AI 选 Qwen3.6 27B 优化编程体验 — Danmoreng · 2026-08-25
- SpaceX 拟部署百万卫星配英伟达算力,Grok 规模将扩至 10GW — ns123abc · 2026-08-25
- Weaviate 推出可配置 effort 参数,测试时计算提升检索精度 — CShorten30 · 2026-08-25
- 高通收购 Modular:联手打造异构计算开放软件栈 — clattner_llvm · 2026-08-25
- 如何在本地完全运行 LLM 以确保数据不外泄 — gethackteam · 2026-08-25