RT-SAFE 基准揭示具身 AI 实时安全盲区
Cornell 与 UC 系研究者（Tianruo Rose Xu、Jiawei Ren 等，Lianhui Qin 指导）于 10 月 13 日发布 RT-SAFE 基准（arXiv:2610.09294），指出具身 AI 的一个核心难题：推理本身消耗安全关键时间——agent 思考时物理世界仍在变化，实时安全是具身 AI 的关键盲区。论文、网页与代码均已公开。
已确认
- RT-SAFE 是一个面向物理世界 AI agent 的实时安全评测基准，在仿真城市中构建带实时约束的城市场景，结合导航任务、移动行人、环境隐患与交通规则，评测「世界不停转」条件下具身智能体的安全性
- 核心数字：8 个 VLM agent 任务完成率高达 94.1%，但最难设置下安全成功率仅 0.7%；实时环境下碰撞率达到静态测试的 12.3 倍；静态与实时评测下任务成功率对比为 91.3% vs 更低
- 结果表明 agent 能完成任务，但过程中大量违反安全约束；agent 思考时间越长，碰撞风险越高
为什么重要
- 传统静态评测无法反映真实世界的时间压力，RT-SAFE 填补了实时安全评测的空白
- 任务成功率与安全成功率的巨大落差（94.1% vs 0.7%）说明当前具身 agent 在实时安全维度存在系统性缺陷，对具身 AI 的部署与评测范式具有警示意义
2026-10-13 ~ 2026-10-13 · 5 条相关
一手来源
- RT-SAFE 基准：思考越久越危险，具身智能碰撞率达静态测试 12.3 倍 — Lianhuiq ·
- RT-SAFE 基准：VLM agent 任务成功率 94.1%，安全完成率仅 0.7% — Lianhuiq ·
- RT-SAFE 实时评测：agent 任务成功率 94.1% 但安全成功仅 0.7% — Lianhuiq ·
- 【源头】RT-SAFE 实时评测：agent 任务成功率 94.1% 但安全成功仅 0.7% — Lianhuiq · 2026-10-13
- 【源头】RT-SAFE 基准：思考越久越危险，具身智能碰撞率达静态测试 12.3 倍 — Lianhuiq · 2026-10-13
- 【源头】RT-SAFE 基准：VLM agent 任务成功率 94.1%，安全完成率仅 0.7% — Lianhuiq · 2026-10-13
- RT-SAFE 研究瞄准具身 AI 实时安全盲区 — repligate · 2026-10-13
另有 1 条近重复转述:Lianhuiq