Raylight 支持双卡并行跑 MiniMax H3，生成时间直接砍半
Altruistic_Heat_9531 · reddit · 2026-08-03
开源工具 Raylight 宣布支持 MiniMax H3 模型的序列并行推理。得益于 H3 单流 Transformer 架构，模型移植难度大幅降低。
在单张性能近似 RTX 4060 的 RTX 2000 Ada 显卡上，生成 5 秒 864x480 带音频视频的时间从 65 秒缩短至 35 秒。此外，本次更新还带来了分布式 VAE、INT8 ConvRot FSDP 等多项显存与推理优化功能。
「Infra」频道最新
- 从3D游戏到AI算力霸主：英伟达GPU发家史回顾 — TinfoilTricorn · 2026-08-03
- 算力资源消耗引争议：AI耗水真比农业和高尔夫球场多吗？ — joshwhiton · 2026-08-03
- AI芯片创企 OLIX 获 3.12 亿美元 B 轮融资，估值 33 亿美元 — matthewclifford · 2026-08-03
- Mac 用户本地跑模型利器：llama-macos 一键部署服务与 WebUI — mervenoyann · 2026-08-03
- 双卡 Strix Halo 跨节点跑 DeepSeek V4 Flash 遭遇崩溃 — WallabyFirm1159 · 2026-08-03
- 解密:AI 厂商如何实现视频模型 10 倍以上的推理加速? — haremlifegame · 2026-08-03