腾讯世界模型 Hy-Nomas 最低要 RTX 4090:作者呼吁发布前先优化
cocktailpeanut · x · 2026-10-24
腾讯混元发布世界模型 Hy-Nomas,Pinokio 作者 cocktailpeanut 梳理其硬件门槛:官方最低配置为单张 RTX 4090(24GB 显存),需用低显存配置(singlegpulowmeminference.yaml)——INT8 DiT 权重与 KV cache、FP8 PixelUMM 解码器、滑窗历史、文本编码器/DiT/VAE 卸载到 CPU,且 offload 需要大量系统内存并拖慢生成;全精度推理与交互 demo 需 FP32 蒸馏 DiT 加序列并行(多卡),LoRA 训练参考配置用 128 卡。作者批评:官方应在发布前尽力优化消费级运行(哪怕 16GB 支持),而不是等社区做 gguf 移植。
「Infra」频道最新
- 开源 RL 框架 Miles v0.1.3:首次权重同步 99.5 秒降至 3.9 秒 — hsu_byron · 2026-10-24
- Ziang Li 展示训练实绩:Tensor Core 利用率超 98% — gharik · 2026-10-24
- 砸数百万做 AI 应用分文未赚,旧 GPU 服务器却升值回本 — stephen280up · 2026-10-24
- Polymarket 开盘:明年年底前 AI 数据中心上天,概率 24% — Polymarket · 2026-10-24
- Polymarket 玩梗:谷歌为建 AI 数据中心砍林,狼群进 Finnish 村庄 — Polymarket · 2026-10-24
- AI 泡沫信号盘点:GPU 闲置、数据中心债务与收入集中隐忧 — The AI Daily Brief · 2026-10-24