RT-SAFE 基准:实时环境下 agent 任务成功率 94.1%,安全仅 0.7%
Lianhuiq · x · 2026-10-13
UC 系研究者（Tianruo Rose Xu、Jiawei Ren 等，Lianhui Qin 指导）发布 RT-SAFE 基准（arXiv:2610.09294），评测具身 agent 在实时约束下的安全性：物理世界不会等 agent 思考，行人移动、车辆逼近时，观察时安全的动作执行时可能已不安全。
核心发现：
- 模拟城市场景结合导航任务、移动角色、环境危害与交规，世界在推理和执行期间持续演化
- 8 个 VLM agent 任务完成率很高，但最难设置下仅 0.7% 的 episode 无安全事件地完成
- 静态与实时评测任务完成率分别为 91.3% 与 94.1%，但实时执行使碰撞增加 12.3 倍
- 结论：标准任务成功率掩盖了大量安全失败，决策延迟本身就是风险因素
论文、网页与代码均已公开。
所属事件:RT-SAFE 基准揭示具身 AI 实时安全盲区(5 条相关)→
「具身」频道最新
- 毅力号行驶 45.22 公里，刷新地外行驶距离纪录 — NASA · 2026-10-13
- Mac + RealSense D435 深度相机玩出 ASCII 深度感知艺术 — chrismatthieu · 2026-10-13
- SFGate 撰文批评扎克伯格新品 Muse：一个寄生性的陷阱 — sfgate · 2026-10-13
- 英伟达工厂 AI 蓝图曝光：Nemoclaw 智能体让工厂拥有新大脑 — firstadopter · 2026-10-13
- UC Berkeley 团队 QF3：一处改动让 RL 稳定微调流策略机器人 — andrew_n_carr · 2026-10-13
- DeepMind 伦敦机器人团队招预训练与数据质量研究科学家 — bousmalis · 2026-10-13