InstinctFlash 开源：Jetson Thor 上实时跑 5B 机器人模型提速至 33.78 倍
guanming0717 · hn · 2026-09-22
General Instinct 联合创始人发布 InstinctFlash，一个面向机器人模型的高性能推理框架（AGPL-3.0），解决机器人策略推理太慢、跟不上控制环的问题。
- 提速：仅运行时优化在 Jetson Thor 上即可达 1.2x–7.9x；结合少步蒸馏扩散调度器（25/50 步压到 2/4 步），LingBot-VA 最高提速 33.78x。
- 精度几乎无损：在 50 个 Robotwin2.0 任务、每配置 1153 个 episode 上，2/4 步配置成功率 90.5%，基线（25/50 步）为 92.1%。
- 优化手段：CUDA graph 捕获与内存规划、扩散步骤间 KV/条件状态缓存、混合精度 GEMM、专用 attention 路径、少步蒸馏等 6 个方面。
- 兼容性：支持 pi0.5、NVIDIA Cosmos Policy 等 8 个 VLA/世界-动作模型家族，覆盖 RTX 4090/5090 与 Jetson Thor；输入微调后的 checkpoint 即可，通过 Python 运行时或 OpenPI 兼容 WebSocket 服务暴露。
「具身」频道最新
- ECCV 2026 论文 REAL:机器人无特权信息主动探索真实环境 — jiqizhixin · 2026-09-23
- 人形机器人扶起姿势引争论:锁定直立再倾转是业内通行做法 — carlosdponx · 2026-09-23
- 锁定站立模式该不该自动阻尼?机器人抗摔设计细节引争论 — carlosdponx · 2026-09-23
- 提议：用 AI 帮机器人公司发现高价值可落地的用例 — gan_chuang · 2026-09-23
- iPhone 18 Pro 可变光圈专为空间视频设计,3D 成片明显优于 17 Pro — Scobleizer · 2026-09-23
- SPECS 智能眼镜演示空间射击游戏 Core Boom — TinfoilTricorn · 2026-09-23