MLPerf v6.1 首次纳入 agentic 推理与万亿参数模型基准

TheZachMueller · x · 2026-09-16

Lambda 发布 MLPerf Inference v6.1 结果，创下两个「首次」：首个在数据中心硬件上跑的 agentic 推理基准负载，以及首个部署超万亿参数模型的 MLPerf 测试。- 4×Blackwell Ultra 上 GPT-OSS 120B 取得全部 Blackwell Ultra 提交中的领先 Offline 吞吐（65,511 tokens/s），比 v6.0 同硬件提升 8.85%/8.79%，纯软件栈优化半年所得；- HGX B200 开放组别用 Kimi K2.6 替换参考负载的 27B 模型，跑 1T+ 参数 agentic 基准，同样 harness、无显存上限。