清华联合无问芯穹开源 APXInf：具身模型端侧推理提速 10.7 倍
机器之心 · wechat · 2026-09-29
清华大学联合无问芯穹与上海交大开源端侧推理引擎 APXInf，解决具身大模型部署到算力受限机器人本体的难题。同期具身圈八天内三家公司连发五个模型（松延、智元、宇树），模型迭代远快于部署能力。
性能成果
- 不改动 π0.5 模型，Thor 芯片 FP8 配置下推理延迟从 278ms 降至 26ms，端到端提速约 10.7 倍，38.46Hz 进入实时控制区间
- Orin 上从 baseline 1300ms 逐级优化至 119ms，提升超 10.9 倍
- LIBERO-10 全部 500 次 rollout 成功率 92.2%（Thor FP8），与 π0.5 参考实现的 92.4% 基本持平
技术路线
- 放弃统一通用 IR，采用面向模型族的特化执行路径：CUDA Graph 整图捕获、预分配内存、小 batch 实时调度，不引入 ContinuousBatching
- 框架主体用 Rust 开发，收紧内存安全风险；CUDA kernel、CUTLASS、FlashAttention 源码内置，无需 Docker
Agentic 部署流程
把模型接入、对拍验证、调优沉淀为 Agent 可执行的工程流程：Agent 跑流程生成执行路径，人定架构标准与验收线；配合分层验证、Fail-closed 原则与模型族隔离三重保障。
已适配 π0-fast、GR00T、QwenDrive，AMD 与国产芯片后端在规划中。技术承袭自已预装联想超千万台 AIPC 的 Mizar 引擎。
「具身」频道最新
- 曝 OpenAI「dot」设备新细节:举到耳边即可对话 ChatGPT 语音 — koltregaskes · 2026-09-29
- Uniformation S10 树脂 3D 打印机器人:打印、清洗、烘干全自动 — philfung · 2026-09-29
- REALM 生成反应式听者面部动作,已部署到 Ameca 人形机器人 — MacquarieUni · 2026-09-29
- 韩国造磁足蜘蛛焊接机器人,可爬壁登顶负重 30 公斤进船厂 — MickeySteamboat · 2026-09-29
- 「终结者」式机器人竞技场 REK：人机对决成全新极限运动 — cixliv · 2026-09-29
- AIgirl 演示做晚饭,人形机器人家务能力再进一步 — miamiamorph · 2026-09-29