SemiAnalysis：NVIDIA 推理效能最高领先 AMD 5 倍
rohanpaul_ai · x · 2026-08-25
SemiAnalysis 最新报告指出，在 150 tok/s/user 的负载下，NVIDIA 的成本效率最高可达 AMD 的 5 倍。报告同时发布了 AgentX 1.0，这是首个针对多轮 Agent 工作流的开源推理基准，上下文长度达 100 万，覆盖 GB300、MI355、B200 等主流芯片。测试表明，在 Agent 工作流中，NVIDIA 的 CUDA 护城河依然显著。
所属事件:SemiAnalysis：NVIDIA 推理成本效率最高达 AMD 5 倍(2 条相关)→
「Infra」频道最新
- Apple 与 Meta 七年来首次公开合作：Mac Studio 串联跑 Muse Spark 模型 — pdamodaran · 2026-10-16
- NVIDIA 开发者生态达 1100 万，四 年多增长近 3.7 倍 — Beth_Kindig · 2026-10-16
- Muse Spark Open 经 llama.cpp 跑通 M3 Ultra：前沿模型上桌面 — pcuenq · 2026-10-16
- Muse-Spark 开源权重发布：816B MoE 模型 MLX 3bit 版已上线 — ns123abc · 2026-10-16
- Meta 发布开源模型 Muse Spark Open,联手 Apple 可跑在 M5 Ultra Mac Studio — The Verge AI · 2026-10-16
- vLLM 实现 Muse Spark Open Day-0 LoRA RL，AIME 从 0.56 提至 0.85 — vllm_project · 2026-10-16