vLLM-Omni 把 MiniMax H3 做到生成快于播放：10.1 秒视频 8.7 秒出片
vllm_project · x · 2026-09-02
vLLM 项目宣布与 FastVideo 团队（hao-ai-lab）、NVIDIA 合作，把 MiniMax H3 的视频生成当成一个系统问题来优化，实现 10.1 秒带同步音频的完整 MP4 仅用 8.7 秒渲染完成——生成速度快于播放速度。
技术要点：
- 长上下文注意力 + Fast Ulysses 通信（基于 NCCL SymmetricMemory）
- 完全融合的 DiT 算子（RMSNorm+RoPE、SwiGLU、modulation）
- 视频/音频 VAE 解码跨 8 卡并行
- D2H 传输前削减 75% payload，H.264/AAC 并行封装
- FastVideo 的 FastH3 4 步蒸馏消除剩余瓶颈
FastH3 是与 Nuva Lab、NVIDIA 合作开源的 4 步稀疏蒸馏版 MiniMax-H3，支持音视频同步生成。
所属事件:vLLM+FastVideo 让 MiniMax H3 视频生成快于播放(7 条相关)→
「Infra」频道最新
- MIT 团队实测:agent 编码用量若按 API 计费每月高达 4 万美元 — ChrisRackauckas · 2026-10-18
- 越狱 PS5 跑 llama.cpp:开源 PS5LM 让主机变身家庭本地 LLM 服务器 — wateriscoding · 2026-10-18
- DFB 激光器耦合薄膜铌酸锂芯片：最高 170mW、阈值仅 40-45mA — jwt0625 · 2026-10-18
- 5070 Ti 外挂 3070 混搭跑 Qwen 35B 达 82 tok/s — hereforcheesee · 2026-10-18
- 中国在建/规划功率半导体晶圆厂达 69 座,遍布 58 家厂商 — zephyr_z9 · 2026-10-18
- 研究测算：AI 数据中心每年需 3.5 万亿美元收入才能撑住 — TheseFact · 2026-10-18