MLCommons 发布 MLPerf Endpoints v0.7 推理基准
TheKanter · x · 2026-07-29
MLCommons 宣布 MLPerf Endpoints v0.7 正式发布，定位为 AI 推理基准测试的“foundation release”。
这版带来了 CoreWeave、Google、Intel、KRAI 和 NVIDIA 的初始结果，并强调四个原则：Current、Comprehensive、Comparable、Commentary。MLCommons 表示，随着 AI 服务进入企业和消费级日常使用，推理算力采购已经成为各类公司都要面对的决策，因此基准体系也从早期的云厂商采购参考，升级为面向企业采购的动态 benchmark。
「Infra」频道最新
- 两块 H200 跑 Nemotron 120B：Litespark 推理达每秒 962 token — NVIDIAAI · 2026-10-17
- 旧金山签署数据中心暂停令,Kwok 质疑「我们在干嘛」 — kevinakwok · 2026-10-17
- vLLM 原班人马创业做 Inferact：可控的高性价比推理平台 — Xianbao_QIAN · 2026-10-17
- 8 卡 AMD MI355X 跑 Kimi K3 吞吐超 B300 24.4%，每美元 token 多 87% — vllm_project · 2026-10-17
- Anthropic：Claude Code 首响应提速 3 倍，Claude API 快 1.5 倍 — ClaudeDevs · 2026-10-17
- 双 Mac 本地分体方案:M5 Pro 主脑 + M4 子代理跑编码 Agent — Calm-Set6265 · 2026-10-17