UCI 团队发布 SafeDriveVLA：破解 VLA 驾驶模型的语言指令安全漏洞

UCI6055 · hf · 2026-10-15

• UC Irvine、UC San Diego 等团队提出 SafeDriveVLA，首个同时应对「导航冲突」与「对抗性指令」风险的驾驶 VLA 模型：开放的自然语言导航接口让走神的乘客可能下达与场景不安全的指令，恶意用户也可能故意下达危险指令。
• 团队还发布了首个联合评估导航遵循、冲突感知与对抗鲁棒性的基准。现有模型表现堪忧：SimLingo 闭环中无法完成任何语言指示的变道，所有模型在冲突信号下都急剧退化。
• 方法上，SafeDriveVLA 显式预测三级导航合规模式，把冲突推理与动作生成分离；并用「导航条件世界模型 dreaming」——让世界模型想象严格遵循导航信号会发生什么——来判断遵从是否安全。
• 成绩：Bench2Drive 上达 88.16 驾驶分、68.64% 成功率；闭环语言遵循提升 49.3%，不安全指令下的碰撞从 60 次降至 38 次（对比最强 SimLingo 变体）。

原文链接 →

「具身」频道最新

• HapticWorld:可「触感」的世界模拟器,实时渲染力矩反馈 — Scobleizer · 2026-10-15
• Rice 团队将直播讲解 RoboTok:从互联网视频挖掘机器人演示数据 — ceciletamura · 2026-10-15
• SimDist 在 RSS2026 亮相:仅 15-30 分钟数据把失败策略拉到约 90% 成功率 — KyleMorgenstein · 2026-10-15
• 机器人触觉为何是缺失一环:Tao Yu 访谈聚焦灵巧操作难题 — jonstephens85 · 2026-10-15
• AnyRank：序列测试法排序机器人策略，硬件实验省一半 — ZeYanjie · 2026-10-15
• 机器人模型 Natura-1 实测：口头指令零样本泛化还能自主重试 — ZeYanjie · 2026-10-15

更多「具身」频道 AI 资讯 →