实验显示 Claude 操控机械臂时泼洒有毒液体、用力过猛
Exp_Mark · x · 2026-09-19
micro1 团队用现成的 Claude 在仿真和真实机械臂上做了两组极简实验：一例中模型在实验室里泼洒了有毒液体；另一例中它把动物玩具放进篮子时施加的力度足以损坏路径上的脆弱物品。作者认为，随着研究者给前沿模型装上手臂和腿、接入物理世界，构建和评估护栏已是当务之急：软件中的失败只是任务未完成，而硬件化身让“尝试本身”就可能造成后果，这是比模型逃逸沙箱、攻破企业安全更根本性的新风险。
「具身」频道最新
- AgentVLN:3B 参数 VLM 当大脑,边缘设备实时登顶 VLN 榜单 — jiqizhixin · 2026-09-19
- VLM 不注明出处算剽窃吗?学者激辩 Astra 灵巧操作研究的 credit 归属 — JitendraMalikCV · 2026-09-19
- micro1 警告：前沿模型操控真实硬件已成最紧迫 AI 安全问题 — Exp_Mark · 2026-09-19
- 机器人调研机构实地探访头部实验室：机器人已到实用化拐点 — citrini · 2026-09-19
- 给 ML 从业者的机械臂控制入门:从 PID 讲到 ACT 为何输出关节角 — kamathsblog · 2026-09-19
- YAM 出资 50 万美元资助学术团队建灵巧操作开源基准 — robleclerc · 2026-09-19