Epoch AI 推出推理性能指数：GB300 对 H100 推理优势达 25 倍
scaling01 · x · 2026-11-10
Epoch AI 发布了新的芯片衡量指标 Inference Performance Index（IPI），认为仅看 FLOP/s 严重低估了新芯片的推理能力——FLOP/s 口径下 GB300 对 H100 的优势被低估约 10 倍。IPI 同时纳入显存带宽与芯片间通信，这两者才决定给定输出速度下一颗芯片能同时服务多少用户或 agent。
按 IPI（以 GB300=1 计）的主要排名：
- AMD MI455X：2.89，居首
- Nvidia VR200：2.18
- Nvidia GB300：1.00（基准）
- Google TPU v8i：0.91、GB200：0.90
- TPU v7：0.74、Microsoft Maia 200：0.68
- AMD MI355X：0.55、Nvidia B300：0.54
- Nvidia H200 仅 0.12，H100 仅 0.04——最新芯片推理容量最高可达 H100 的 72 倍
该指数可用于直接横向对比芯片，并估算一个数据中心乃至全球的总推理容量。
「Infra」频道最新
- 曝 Anthropic 拟推动政府立法:西方 GPU 固件层封锁中国开源模型运行 — rickasaurus · 2026-11-10
- Cerebras 发布 CS-4 工程纪录片，揭秘晶圆级 AI 系统设计全程 — draecomino · 2026-11-10
- Semi-Apocalypse 播客:市场恐慌、企业 AI 与 2028 GPU 过剩论 — BenBajarin · 2026-11-10
- Ben Bajarin：供应链瓶颈分析依然是 AI 行业主线 — BenBajarin · 2026-11-10
- 马里兰州活动人士征集 2.5 万签名,叫停 50 亿美元 AI 数据中心 — Polymarket · 2026-11-10
- 从自建 FastAPI 代理到专业 LLM 网关:何时该迁移 — Kev926 · 2026-11-10