π0.5 INT8 消费卡部署实测:223 步放好摩卡壶,单次推理 32ms
lxfater · x · 2026-10-27
作者拆解了用 APXInf 在 16GB RTX 4070 Ti SUPER 上部署 π0.5 INT8 的完整架构与实测数据：
- 分工架构：Ubuntu 电脑（4070 Ti SUPER）用 APXInf 跑推理服务；Mac 跑 LIBERO/MuJoCo 仿真和客户端；两机经局域网（OpenPI 协议）通信。
- 运行循环：仿真每执行 5 步，把双路相机画面（224×224）、机械臂状态和任务指令发给模型，拿回下一段动作（末端位姿增量+夹爪控制）。
- 实测结果：任务「开炉灶并放上摩卡壶」成功，共 223 步、调用模型 45 次；服务端推理中位数约 32ms，WiFi 往返中位数约 71ms。
- 文中还提到遇到的显存不足与编译兼容问题及解决过程，读者可照着复现整套「无机械臂玩具身模型」流程。
所属事件:开发者用消费级显卡本地跑通 π0.5 具身模型(3 条相关)→
「编程与Agent」频道最新
- Void v1.3 发布：JSX 路由、邮件别名等大批改进 — cnakazawa · 2026-10-27
- 开发者用 Spawn 加 Opus 做游戏世界构建,射击游戏地图可无限生成 — TAbrodi · 2026-10-27
- RL 环境设计长文：会操作软件不等于会达成目标 — ShenRaphael · 2026-10-27
- Rolldown 推出 Inline Common Chunks,减少小 chunk 文件 — irvinebroque · 2026-10-27
- NUS 提出多智能体编排框架 DynaFlow：精度超 AFflow 等基线 — NationalUniversityofSingapore · 2026-10-27
- 浙大联合华为提出 ProAS：修复无 critic 强化学习的信用分配缺陷 — LINs-lab · 2026-10-27