MiniMax-H3 跑 8×H200:无损加速 1.95 倍,最高 6.24 倍
ying11231 · x · 2026-08-28
LMSys 发布博文,展示了在 8 张 H200 上运行 MiniMax-H3 的性能优化成果。在固定提示词、分辨率等条件下,通过融合内核、Cache-DiT 步骤复用和 SubBlock 稀疏注意力三种技术组合,实现了不同程度的加速:
- 密集无损路径:比 Diffusers 快 1.85–1.95 倍,无近似损失。
- 极致速度模式:结合步骤复用与稀疏注意力,最高加速 6.24 倍,但 SSIM 指标有所下降。
- 预设配置:Conservative 模式在 0.90–0.98 SSIM 下加速 2.99 倍;Speed 模式在 0.77–0.92 SSIM 下加速 4.90–5.93 倍。
该工作由 LMSys、蚂蚁集团、Nvidia 及 Cache-DiT 团队合作完成。
「Infra」频道最新
- Bloomberg 算账:得州 AI 数据中心 1GW 场地建设成本失控 — rohanpaul_ai · 2026-10-15
- 系统设计面试必懂的 7 个分布式算法 — goyalshaliniuk · 2026-10-15
- 面壁 MiniCPM-V 4.7 端侧跑 35B 多模态,仅 3GB 内存、每 token 激活 3B — nevrekaraishwa2 · 2026-10-15
- Sipeed MaixStation 产品页上线,端侧 AI 开发套件来了 — xlltt · 2026-10-15
- 英伟达市值已超过印度整个股市 — theteknosaur · 2026-10-15
- 实测 Apple Silicon GEMM 性能:M6 矩阵单元 fp8 达 fp16 两倍,M5 不支持 — Brilliant-Hall1387 · 2026-10-15