单卡 5090 实时跑世界模型:LingBot-World 16 FPS,比 SGLang 快 2.5 倍
Kaarel_Kaarelson · reddit · 2026-09-19
开发者 Kaarel 把世界模型 LingBot-World 2.0 1.3B 在单张 RTX 5090 上从 6 FPS 优化到 16 FPS 实时,并开源代码。
- 比 SGLang Diffusion 快 2.5 倍,比 NVIDIA FlashDreams 快 1.9 倍(其他推理引擎最好只有 6-8 FPS)
- 优化手段:降低数值精度且性能无损、用 SageAttention 替换 FlashAttention、自写定制 kernel
- 分辨率 832×464,可最小化窗口游玩;支持上传图片+prompt 预测后续帧,AWSD+鼠标在世界中行动,命令 lingbot play dragon
- 要求 Linux,推荐 5090(4090 估计约 12 FPS 未测)
- 开源:github.com/kaarelkaarelson/lingbot-world-v2-realtime
「Infra」频道最新
- NEURA 发布 Neuron AI,欧洲具身智能的真正考验在协同落地 — ingliguori · 2026-11-04
- S3 数据库并不慢：内存+NVMe 缓存摊薄成本，写延迟差距比想象小 — mgill25 · 2026-11-04
- 开源 gpu-unlock 项目让 GeForce AI 推理提速最高 2 倍 — paranoidray · 2026-11-04
- 这 10 篇 GPU 优化论文决定了今天模型跑得多快 — NandoDF · 2026-11-04
- 用一句提示词让 AI 排查跨区流量：迁移服务省掉跨大西洋延迟 — DanielLockyer · 2026-11-04
- SurrealDB 4 发布：多模型数据库瞄准 Agentic 时代 — Scobleizer · 2026-11-04