MLPerf v6.1 首次纳入 agentic 推理与万亿参数模型基准
TheZachMueller · x · 2026-09-16
Lambda 发布 MLPerf Inference v6.1 结果，创下两个「首次」：首个在数据中心硬件上跑的 agentic 推理基准负载，以及首个部署超万亿参数模型的 MLPerf 测试。- 4×Blackwell Ultra 上 GPT-OSS 120B 取得全部 Blackwell Ultra 提交中的领先 Offline 吞吐（65,511 tokens/s），比 v6.0 同硬件提升 8.85%/8.79%，纯软件栈优化半年所得；- HGX B200 开放组别用 Kimi K2.6 替换参考负载的 27B 模型，跑 1T+ 参数 agentic 基准，同样 harness、无显存上限。
所属事件:MLPerf Inference v6.1 发布：首纳 Agentic 推理基准(2 条相关)→
「Infra」频道最新
- Altman：单次 AI 查询能耗 3-4 年降千倍至十万倍 — rohanpaul_ai · 2026-11-02
- Marvell 与 Lumentum 合并，瞄准 5500 亿美元 AI 连接市场 — BenBajarin · 2026-11-02
- 三星会长亲赴日本先进封装实验室,5 年投 400 亿日元扩研 — pstAsiatech · 2026-11-02
- Altman 亲赴韩国会晤三星高管,加码存储芯片与 AI 基建合作 — pstAsiatech · 2026-11-02
- 模拟 20 万个月数据：五套家用 AI 主机，仅一套亏钱 — LeviTurk · 2026-11-02
- 印度 AI 算力公司拟融资 30 亿美元,采购英伟达下一代芯片 — pstAsiatech · 2026-11-02