VFlash 视觉规划加速落地 Jetson Thor 与 H100,推理最快提速 5.7 倍

ZhidingYu · x · 2026-11-06

作者介绍 VFlash 在 NVIDIA 全栈上的推理加速支持,覆盖 Jetson Thor、DGX Spark 和 H100,基于 NVIDIA TensorRT-Edge-LLM 与 TensorRT 推理栈,面向机器人操作与自动驾驶的视觉规划。相比 AR 解码基线:Jetson Thor 和 DGX Spark 上 MolmoSpace 推理快 5 倍、NAVSim 快 3 倍以上、Waymo E2E 最高快 5.7 倍。下游收益方面,可让 world action model(WAM)或扩散动作头通过 cross-attention 挂接 VFlash 的视觉基元 token 隐特征,动作模型训练时 VLM 特征保持冻结——在 MolmoSpace 上显著提升 WAM 基线同时大幅缩短解码延迟。