实测 HelixWorld 世界模型：单卡 BF16 吃满 70GB 显存，消费级暂无缘
cocktailpeanut · x · 2026-10-20
Pinokio 作者 cocktailpeanut 实测开源实时音视频世界模型 NoizAI/HelixWorld，并分享了硬件门槛细节：
- 显存需求：README 推荐 80GB GPU，单卡 BF16 运行实际占用约 70GB VRAM；文本编码器用 Gemma-3-12B，是显存大头之一。
- 实测成绩：在单张 H800 80GB 上，768×512 分辨率、24 FPS 下达到 0.77 实时因子；A100/H100 80GB 表现应相近。
- 其他要求：Linux、Python 3.11、CUDA 12.x，需安装 ffmpeg/ffprobe。
结论是瓶颈在显存，消费级显卡短期内跑不起来，除非社区推出低显存方案。
「Infra」频道最新
- 企业 token 支出增速从 42% 骤降至 0.2%,超大规模厂商 ROIC 跌至 20% — SumitGup · 2026-10-21
- 高通全球裁员转战 AI 数据中心：目标 2027 年 50 亿美元营收 — rohanpaul_ai · 2026-10-21
- vLLM 登台 PyTorchCon 2026：跨 TPU、AMD、NVIDIA 优化 KV cache 与内核 — PyTorch · 2026-10-21
- antirez 尝试用 DeepSeek Infer 为 DGX Spark 优化 DwarfStar 内核 — antirez · 2026-10-21
- 三进制 2-bit 端侧模型 Ternary-Bonsai-2-9B 上架 HF,支持视觉输入 — prism-ml · 2026-10-21
- GPU 管预填、Positron 管解码:异构推理组合瞄准内存带宽瓶颈 — cneuralnetwork · 2026-10-21