清华 SAFLOW 论文入选 NeurIPS,8 项具身控制任务回报全部第一

青稞AI · wechat · 2026-10-21

清华大学车辆学院与人工智能学院团队的论文《Self-Adjoint Flow Policy Optimization》被 NeurIPS 2026 接收(OpenReview 评分 5/5/5/4),提出面向在线强化学习的自伴随生成式策略 SAFLOW,第一作者为 2021 级直博生占国建。

论文针对流匹配等生成式策略在在线 RL 中的「似然盲区」:扩散/流策略能表达多峰动作分布,但常规显式欧拉离散法正逆向不一致,导致动作似然与策略比率计算有数值偏差。SAFLOW 借鉴保辛积分思想,用 Verlet 对称分裂(kick-drift-kick)构造自伴随策略流,使动作采样与似然评估沿同一套离散规则精确可逆,并将二阶一致性传递至策略比率与优化目标。

实验结果:在 NVIDIA IsaacLab 的 8 项连续控制任务(Ant、Humanoid、FrankaArm、ShadowHand、Unitree-Go2/H1 等)上全部取得最高平均回报,Humanoid 相对最佳基线提升约 50.9%;GPU 并行环境从 128 扩到 4096 时优势随规模扩大更明显;消融实验证实二阶自伴随结构带来持续收益。团队认为 SAFLOW 适合作为 VLA 模型的连续动作头,并可用于具身模型的在线后训练。

原文链接 →

「具身」频道最新

更多「具身」频道 AI 资讯 →