MLPerf Inference v6.1 发布：30 家参测创纪录，新增 Agentic 推理基准
TheKanter · x · 2026-09-17
MLCommons 发布 MLPerf Inference v6.1 基准结果，参测机构达 30 家创历史新高，性能较一年前最高提升 5.7 倍。
- 新增两个反映 AI 推理部署趋势的测试，其中端到端 RAG 基准覆盖嵌入模型→向量检索→重排→LLM 推理的完整多模型流水线
- 面向数据中心与边缘侧日益复杂的 agentic 部署模式
- 包含多个新发布/即将发布 AI 平台的首批同行评审性能结果
所属事件:MLPerf Inference v6.1 发布：首纳 Agentic 推理基准(2 条相关)→
「Infra」频道最新
- 剑桥学者发问:AI 公司每发一个 token 都在亏钱,有人算过账吗? — DavidSKrueger · 2026-09-17
- 从伊朗封号到 Bing 泄露 2 万私有库，开发者思量迁移出 GitHub — FlolightC · 2026-09-17
- 12GB 显存跑 Qwen3.8 Flash:3bpw 量化达成 15 tokens/s — KnownAd4832 · 2026-09-17
- DeepSeek V4 Pro 输出解析缺陷疑波及 OpenRouter 六成供应商，修复已提交 sglang — michellechen · 2026-09-17
- Unconventional AI 用耦合振荡器做图像生成，代码全部开源 — NaveenGRao · 2026-09-17
- 从组建团队到流片仅 5 个月，CEO 展示片上因果动力学推理 — NaveenGRao · 2026-09-17