ai& 深度实测:MiniMax H3 在三种芯片上提速 12 倍,成本大降
DavidBennett__ · x · 2026-10-24
日本异构推理服务商 ai& 发布 19 分钟技术博客,详述在 NVIDIA B300、AMD MI355X、Tenstorrent Blackhole 三种架构上优化视频生成模型 H3 的完整过程:
- 缓存优化:把单个 refinement 步的推理时间从 2.53 秒压到 0.05 秒
- 步数蒸馏:15 秒视频的生成时间从 229 秒降到 19 秒
- 基线对比:8×B300 约 36 PFLOPS FP8/2.1TB HBM3E;8×MI355X 40.27 PFLOPS/2.3TB;Blackhole Galaxy 单机 23 PFLOPS、4 机 92 PFLOPS,功耗 8-10kW/台
文章逐一分析了各硬件算力、内存、带宽的权衡,以及加速手段带来的质量与成本 trade-off,对扩散式视频模型的推理工程很有参考价值。
「Infra」频道最新
- AI 信用风险创新高:Oracle 五年期 CDS 飙至 300 — AccBalanced · 2026-10-24
- Nebius 囤 GPU 赌涨价:12 美元 Meta 合约托底,35 亿桥贷撑 364 天 — tengyanAI · 2026-10-24
- Spark-X2.6-4B GGUF 量化版登 Hugging Face 趋榜，Apache 2.0 开源 — XHToken · 2026-10-24
- 高折射率玻璃做到 2.1,用于 AR 光波的「高性能玻璃」引惊叹 — jwt0625 · 2026-10-24
- EPFL 薄膜钽酸锂 WDM 调制器芯片发布，业内人士泼冷水：难进 CPO — jwt0625 · 2026-10-24
- Reddit 长文畅想下一代 AI：存内计算+脉冲网络+极致稀疏 — Robert__Sinclair · 2026-10-24