RT-SAFE 实时评测：agent 任务成功率 94.1% 但安全成功仅 0.7%
Lianhuiq · x · 2026-10-13
研究者发布 RT-SAFE，一个面向物理世界 AI agent 的实时安全评测方法。核心发现：
- agent 能完成任务（任务成功率 94.1%），但过程中大量违反安全约束，安全成功率仅 0.7%
- 真实世界不会在 agent 思考时暂停，RT-SAFE 的实时评测比暂停式测试多暴露 12.3 倍的危险碰撞
结论是传统「暂停世界」式评测严重低估了具身 agent 的安全风险，需要在动态环境中实时评估 agent 行为。
所属事件:RT-SAFE 基准揭示具身智能安全危机：任务成功率 94.1%，安全完成仅 0.7%(4 条相关)→
「具身」频道最新
- 亚马逊机器人员工超百万，人类岗位下一步在哪 — lulzxdxdxd · 2026-10-13
- AI 研究员 Chris Paxton:IROS 显示灵巧操作已成机器人研究前沿共识 — chris_j_paxton · 2026-10-13
- Scoble 见证非侵入式 BCI:四肢瘫痪者称 Phantom Neuro 设备最惊艳 — Scobleizer · 2026-10-13
- iPhone Duo 折叠屏现状:旧 SDK 应用居中留黑边,适配惨不忍睹 — steipete · 2026-10-13
- 开发者用 13 美元电路板配 Codex 与 GPT Live 搭 DIY 语音装置 — OpenAIDevs · 2026-10-13
- 特斯拉官宣称:这是你唯一能买到的机器人出租车 — yunta_tsai · 2026-10-13