FailBank 把运行时安全反馈变成长期监督,VLA 成功率最多提 25.4 点
notredame · hf · 2026-10-05
针对 VLA(视觉-语言-动作)机器人在复杂环境中任务成功与意外接触难以兼顾的问题,notredame 团队提出四阶段自进化框架 FailBank。
思路:运行时 safety shield 只能纠正单个动作、不改策略,反复干预会造成持续的「策略-护盾」错配。FailBank 把运行时反馈转化为持久策略改进:
- 采集阶段:固定的 CBF 安全模块作为「只观察的教师」,在策略保持控制时生成反事实修正;
- 结果感知准入:将有用的修正提议转为纠正目标,保留未被纠正的成功动作作为锚点,用于受保护的 LoRA 更新。
结果:在 VLA-Arena 基准、两个 VLA 骨干上,较基础策略任务成功率提升 8.5 和 6.9 个百分点,策略导致的累计代价分别降低 35.6% 和 23.8%;较运行时 shielding 成功率提升 25.4 和 9.5 个百分点,累计代价相当。结论:运行时反馈可以成为持久的策略监督信号,而非临时动作约束。
「具身」频道最新
- 工程师从博客逆向重建 Neuralink 脑机接口解码器架构 — melnykowycz · 2026-10-06
- 家用机器人测评会很精彩：步态惊艳，钥匙放进冰箱 — VraserX · 2026-10-06
- EMPIRIC:用代码补全物理引擎缺口的残差世界模型 Agent — tomssilver · 2026-10-05
- Snap 员工访谈:2195 美元 AR 眼镜 Specs 被喷臃肿,根子还是怕 Meta — richardjnieva · 2026-10-05
- 松下自研人形机器人，瞄准 2029 年量产先行内测 — CyberRobooo · 2026-10-05
- Reka 发布 Rho-1 研究预览:19B 全模态模型统一理解文本图像视频与机器人动作 — RekaAILabs · 2026-10-05