LingBot-VA 2.0 推理提速6.5倍
rohanpaul_ai · x · 2026-07-14
作者继续补充 LingBot-VA 2.0 的效率改进：
- 通过蒸馏，把每个 chunk 的推理压到 2 次 function evaluations。
- 再结合 FP8 TensorRT、paged/ragged KV cache、FlashInfer attention 等工程优化，把延迟从 927 ms 降到 142 ms，单 chunk 速度提升约 6.5x。
- 报告的执行频率从 35 Hz 提升到峰值异步 225 Hz。
所属事件:LingBot-VA 2.0:面向机器人控制的原生预训练模型(9 条相关)→
「具身」频道最新
- 机器人学习学者 m_wulfmeier 加入 Mila 任兼职教师 — pcastr · 2026-10-27
- 32mm 直径塞进人形机器人关节：Zmotor 执行器全拆解 — MarwaEldiwiny · 2026-10-27
- 拆解中国人形机器人 Zmotor 线性执行器：内部构造全曝光 — MarwaEldiwiny · 2026-10-27
- 世界模型新玩法：物体赋重量摩擦系数，物理引擎推演机器人动作 — jonstephens85 · 2026-10-27
- 折叠屏 iPhone「Duo」开箱照现身,真机包装盒首曝 — chrisfirst · 2026-10-27
- Bedrock Robotics 获 6 亿美元 C 轮，无人挖掘机已在美国工地承接付费工程 — davidpattersonx · 2026-10-27