通用机器人安全新范式：论文提出具身 AI 风险分类法与研究议程
Majumdar_Ani · x · 2026-09-12
Andrea Bajcsy、Anirudha Majumdar 等人发布立场论文《Rethinking Safety for Generalist Robots》（arXiv:2609.06326），主张当机器人能「做任何事」时，仅防碰撞和力控的传统安全概念远远不够。
- 新风险维度：安全必须考虑上下文（断电只在检修时段安全）、用户意图（「打扫厨房」隐含不能混合漂白剂和氨水等危险清洁剂）、难以建模的物理后果（做饭烧糊食物）等。
- 核心论点：需要开启「具身 AI 安全」新时代，在机器人全生命周期内扩展风险考量，且比特的安全与原子的安全不可分割。
- 论文给出了新兴风险的分类法和一份全栈研究议程，指导通用机器人的安全部署。
「具身」频道最新
- GPT-6.1 Terra 控制真机器人胜过 Opus 5.5,较三月前提升 3.7 倍 — ycombinator · 2026-10-28
- 机器人「开派对」训练中:研究者晒 policy in training 预告 — andrew_n_carr · 2026-10-28
- RAX让真机器人探索2小时自学技能，再把技能写成代码复用 — du_yilun · 2026-10-28
- OpenTac 触觉传感器将亮相 CoRL 2026,共 17 组机器人演示 — _krishna_murthy · 2026-10-28
- SO-101 Bench：LLM Agent 得分 83.2% 击败九个 VLA 策略 — Truman Hickok · 2026-10-28
- cixliv:格斗或成机器人首个跑赢普通人类的「已实现市场」 — cixliv · 2026-10-28