微软 ShieldVLA 用 HJ 可达性做 VLA 安全对齐,安全成本平均降 57%
MicrosoftResearch · hf · 2026-09-22
微软研究院提出 ShieldVLA,一个面向视觉-语言-动作 (VLA) 模型的安全对齐微调框架。
- 问题:现有微调方法多用拉格朗日软惩罚约束预期累计安全成本,常导致残余违规或过度保守;且视觉领域缺乏逐步安全标注,学习安全行为困难。
- 方法:基于 Hamilton-Jacobi (HJ) 可达性,直接从视觉观测学习 model-free 的可达性价值函数近似,估计安全运行区域;学到的安全 critic 对策略优化进行门控,把可行域内的奖励最大化与不安全状态附近的恢复行为分开,避免持续的奖励-成本权衡。
- 可扩展监督:引入基于 rubric 的 VLM 安全评分,把语义安全反馈转化为结构化 critic 目标,无需人工成本标注。
- 效果:在五个导航与操作基准、多个 VLA 主干上,累计安全成本平均降低 57%,任务成功率较 SafeVLA 提升 +0.13。
「具身」频道最新
- 机器人初创预售破 10 台,达成首个目标 — R4nsack · 2026-11-12
- Runway 发布 27B MoE 世界行动模型 Praxis-1,Fast 版中位延迟仅 73ms — ChongZzZhang · 2026-11-12
- Dream-1 双臂机器人现场演示：一句指令叠好黄毛巾 — DJiafei · 2026-11-12
- 双板搭建测试：GPT-6 Astra 成功，Claude Fable 5.2 落败 — qinzytech · 2026-11-12
- 团队宣称造出智能手机价格的机器人,预售价外购更贵 — R4nsack · 2026-11-12
- CoRL 论文集证明：仿真训练已能产出顶尖真实机器人表现 — carlosdponx · 2026-11-12