通用机器人安全新范式：论文提出具身 AI 风险分类法与研究议程
Majumdar_Ani · x · 2026-09-12
Andrea Bajcsy、Anirudha Majumdar 等人发布立场论文《Rethinking Safety for Generalist Robots》（arXiv:2609.06326），主张当机器人能「做任何事」时，仅防碰撞和力控的传统安全概念远远不够。
- 新风险维度：安全必须考虑上下文（断电只在检修时段安全）、用户意图（「打扫厨房」隐含不能混合漂白剂和氨水等危险清洁剂）、难以建模的物理后果（做饭烧糊食物）等。
- 核心论点：需要开启「具身 AI 安全」新时代，在机器人全生命周期内扩展风险考量，且比特的安全与原子的安全不可分割。
- 论文给出了新兴风险的分类法和一份全栈研究议程，指导通用机器人的安全部署。
「具身」频道最新
- YC 公司 Mass Magnetics 回收电动车电机磁体再造机器人用磁铁 — ycombinator · 2026-09-12
- 机器人学家:基座模型焦虑不必,SAM+轻量模型已够用 — chris_j_paxton · 2026-09-12
- WUJI 开源 MINT:从第一视角视频重建 3D 手部轨迹与相机位姿 — chris_j_paxton · 2026-09-12
- Tritium 提出 Proxy Policy Steering:冻结基座策略也能学新技能 — philfung · 2026-09-12
- Hugging Face 社区做 SO-ARM101 逐步搭建 Space,附 3D 可视化 — huggingface · 2026-09-12
- 机器人递饮料预告片曝光,团队称即将发布新成果 — Haoyu_Xiong_ · 2026-09-12