M3.1 Flash 在 Vera Rubin NVL72 上跑出每 GPU 191.5k tok/s 吞吐
vllm_project · x · 2026-10-23
vLLM 公布 MiniMax M3.1 Flash 在 NVIDIA Vera Rubin NVL72 上的 day-0 服务性能（2/5）：单用户解码 724.9 tok/s，单 GPU 吞吐 191.5k tok/s。评测方面，Agents' Last Exam（ALE）29.6 分，AutomationBench-AA 72.5% 在其发布对比中领先开源模型，DeepSWE 73.67%，覆盖真实代码库理解、bug 修复与功能开发。模型面向需要规划、使用工具并完成整个任务的工作流。
所属事件:vLLM Day-0 支持 MiniMax M3.1 Flash，NVFP4 显著提升部署效率(4 条相关)→
「Infra」频道最新
- EPFL 薄膜钽酸锂 WDM 调制器芯片发布，业内人士泼冷水：难进 CPO — jwt0625 · 2026-10-24
- ai& 深度实测:MiniMax H3 在三种芯片上提速 12 倍,成本大降 — DavidBennett__ · 2026-10-24
- 实测 NVIDIA Spark 本地跑分：散热架可显著减少热节流 — draginol · 2026-10-24
- Cloudy 用 Claude Code 自主调内核,gpt-oss-20b 解码提速 15% 跑赢 vLLM — saurabhtwq · 2026-10-24
- Chamath：美国大行砍 AWS/GCP 支出，自建六座独立数据中心 — SumitGup · 2026-10-24
- OpenRouter 幻灯片曝光：token 用量暴涨，混合均价同步骤降 — aniketmaurya · 2026-10-24