RT-SAFE 基准：思考越久越危险，具身智能碰撞率达静态测试 12.3 倍
Lianhuiq · x · 2026-10-13
Cornell 与 UCSD 团队推出 RT-SAFE，一个在"世界不停转"的真实时间条件下评测具身智能体安全的仿真城市基准，结合导航任务、移动行人、环境隐患与交通规则。
核心发现：
- 静态 vs 实时评测下任务成功率 91.3% → 94.1%，看似更强；但安全完成率仅 19.8% → 0.7%
- 实时条件下每回合碰撞数比暂停世界测试高 12.3 倍
- 更反直觉的是：增大推理深度（reasoning effort）后，任务成功率几乎不变（94.1% → 94.8%），碰撞却从 40.7 升到 62.0 次/回合——思考时间越长，物理世界变化越多，决策延迟本身成为风险源
结论：标准任务成功率会掩盖大量安全问题，具身智能体的安全性取决于决策质量与决策延迟两者。
所属事件:RT-SAFE 基准揭示具身 AI 实时安全盲区(5 条相关)→
「具身」频道最新
- 富士康曝光自动化战略：Omniverse 虚拟验证 + GR00T 人形机器人已投产 — firstadopter · 2026-10-13
- WUJI 机器人手全仿真训练学会转笔，IROS 现场演示手套遥操作 — chris_j_paxton · 2026-10-13
- Ultra Robotics 融资 5000 万美元，1 人监管 6 台机器人日处理数千包裹 — chris_j_paxton · 2026-10-13
- 特斯拉 Robotaxi 运营时间延至早6点到晚11点，Cybercab 内置 Grok — yunta_tsai · 2026-10-13
- Pim DeWitte:机器人训练不该迷信生成模拟器,像素空间原生训练才是优势 — chris_j_paxton · 2026-10-13
- Collov Labs 发布 NewEyes AI：给个人智能体装上「眼睛」 — Scobleizer · 2026-10-13