vLLM-Omni 把 MiniMax H3 做到生成快于播放:10.1 秒视频 8.7 秒出片
vllm_project · x · 2026-09-02
vLLM 项目宣布与 FastVideo 团队(hao-ai-lab)、NVIDIA 合作,把 MiniMax H3 的视频生成当成一个系统问题来优化,实现 10.1 秒带同步音频的完整 MP4 仅用 8.7 秒渲染完成——生成速度快于播放速度。
技术要点:
- 长上下文注意力 + Fast Ulysses 通信(基于 NCCL SymmetricMemory)
- 完全融合的 DiT 算子(RMSNorm+RoPE、SwiGLU、modulation)
- 视频/音频 VAE 解码跨 8 卡并行
- D2H 传输前削减 75% payload,H.264/AAC 并行封装
- FastVideo 的 FastH3 4 步蒸馏消除剩余瓶颈
FastH3 是与 Nuva Lab、NVIDIA 合作开源的 4 步稀疏蒸馏版 MiniMax-H3,支持音视频同步生成。
所属事件:vLLM-Omni 优化 MiniMax H3,视频生成快于播放(4 条相关)→
「Infra」频道最新
- aimake:AI 管道的增量构建系统,省钱的 Make — Miserable_Extent8845 · 2026-09-02
- Fable 5.1 现已登陆 Hermes Agent 与 OpenRouter — Scobleizer · 2026-09-02
- ComfyUI 特定节点致 5070Ti 显卡崩溃排查 — Pitiful-Indication95 · 2026-09-02
- 深度解析 CuTeDSL Swizzle 布局与 M 参数计算原理 — snowclipsed · 2026-09-02
- Anthropic 锁死推理过程:Fable 5.1 禁止中途修改历史 — mitsuhiko · 2026-09-02
- 开源 GPU 价格指数 CGI 发布,解决算力定价分歧 — ycombinator · 2026-09-02