单卡 5090 实时跑世界模型:LingBot-World 16 FPS,比 SGLang 快 2.5 倍
Kaarel_Kaarelson · reddit · 2026-09-19
开发者 Kaarel 把世界模型 LingBot-World 2.0 1.3B 在单张 RTX 5090 上从 6 FPS 优化到 16 FPS 实时,并开源代码。
- 比 SGLang Diffusion 快 2.5 倍,比 NVIDIA FlashDreams 快 1.9 倍(其他推理引擎最好只有 6-8 FPS)
- 优化手段:降低数值精度且性能无损、用 SageAttention 替换 FlashAttention、自写定制 kernel
- 分辨率 832×464,可最小化窗口游玩;支持上传图片+prompt 预测后续帧,AWSD+鼠标在世界中行动,命令 lingbot play dragon
- 要求 Linux,推荐 5090(4090 估计约 12 FPS 未测)
- 开源:github.com/kaarelkaarelson/lingbot-world-v2-realtime
「Infra」频道最新
- 12GB 显存跑 128k 上下文 MoE：两天实测数据与意外结论 — HomoAgens1 · 2026-09-19
- Joseph Suarez 用消费级显卡 5 小时在仓库跑出 SOTA — yacineMTB · 2026-09-19
- MiMo RL 直播算账:infra 重启浪费 33% 有效算力,损失超 40 万美元 — dustinvtran · 2026-09-19
- Jev 类模型无解码循环、有界输出,或成端侧设备的近乎免费判断原语 — signulll · 2026-09-19
- Pedro Domingos:反对数据中心就是让国家变蠢 — pmddomingos · 2026-09-19
- Pedro Domingos：OpenAI 与 Anthropic 真正的护城河是算力储备 — pmddomingos · 2026-09-19