如何在24G显存下极限优化HunyuanVideo生成
eesahe · reddit · 2026-08-14
开发者在 24GB 显存下尝试运行 HunyuanVideo (H3) 模型，分享了目前的优化进展与瓶颈。通过使用 int8convrot 权重和多种 hack 手段，勉强能在约 11 秒的时长下实现 0.9 兆像素的生成。
作者表示，目前在不切换到 w4a8 量化方案的情况下，很难在 24GB 显存内突破 10 秒以上、1 兆像素的生成极限，并向社区征集更好的显存优化经验。
「Infra」频道最新
- 日本开发者推出 VRAMDISK：将 GPU 显存化作超高速硬盘 — lxfater · 2026-08-14
- 美光 LTA 协议成供应商门槛，AI 算力供应链缓解无望 — Sethwinterroth · 2026-08-14
- 1300美元组装四卡RTX 3060旧服务器，成功跑128k上下文大模型 — desexmachina · 2026-08-14
- HBM5延迟，HBM4E弃用混合键合，先进封装路线生变 — zephyr_z9 · 2026-08-14
- 单张RTX 3090跑30B模型：W4A16量化实现4.5倍吞吐量提升 — mitchins-au · 2026-08-14
- 硬核优化：纯C语言在8GB内存CPU上跑2.78万亿参数Kimi K3 — AutomaticDriver5882 · 2026-08-14