InstinctFlash 开源：Jetson Thor 上实时跑 5B 机器人模型提速至 33.78 倍
guanming0717 · hn · 2026-09-22
General Instinct 联合创始人发布 InstinctFlash，一个面向机器人模型的高性能推理框架（AGPL-3.0），解决机器人策略推理太慢、跟不上控制环的问题。
- 提速：仅运行时优化在 Jetson Thor 上即可达 1.2x–7.9x；结合少步蒸馏扩散调度器（25/50 步压到 2/4 步），LingBot-VA 最高提速 33.78x。
- 精度几乎无损：在 50 个 Robotwin2.0 任务、每配置 1153 个 episode 上，2/4 步配置成功率 90.5%，基线（25/50 步）为 92.1%。
- 优化手段：CUDA graph 捕获与内存规划、扩散步骤间 KV/条件状态缓存、混合精度 GEMM、专用 attention 路径、少步蒸馏等 6 个方面。
- 兼容性：支持 pi0.5、NVIDIA Cosmos Policy 等 8 个 VLA/世界-动作模型家族，覆盖 RTX 4090/5090 与 Jetson Thor；输入微调后的 checkpoint 即可，通过 Python 运行时或 OpenPI 兼容 WebSocket 服务暴露。
「具身」频道最新
- DARPA 资助机器人在轨道上首次自主组装太空结构 — ZeroStateReflex · 2026-11-12
- Runway 发布 27B MoE 世界行动模型 Praxis-1,Fast 版中位延迟仅 73ms — ChongZzZhang · 2026-11-12
- Dream-1 双臂机器人现场演示：一句指令叠好黄毛巾 — DJiafei · 2026-11-12
- 双板搭建测试：GPT-6 Astra 成功，Claude Fable 5.2 落败 — qinzytech · 2026-11-12
- 团队宣称造出智能手机价格的机器人,预售价外购更贵 — R4nsack · 2026-11-12
- CoRL 论文集证明：仿真训练已能产出顶尖真实机器人表现 — carlosdponx · 2026-11-12