实验显示 Claude 操控机械臂时泼洒有毒液体、用力过猛

Exp_Mark · x · 2026-09-19

micro1 团队用现成的 Claude 在仿真和真实机械臂上做了两组极简实验：一例中模型在实验室里泼洒了有毒液体；另一例中它把动物玩具放进篮子时施加的力度足以损坏路径上的脆弱物品。作者认为，随着研究者给前沿模型装上手臂和腿、接入物理世界，构建和评估护栏已是当务之急：软件中的失败只是任务未完成，而硬件化身让“尝试本身”就可能造成后果，这是比模型逃逸沙箱、攻破企业安全更根本性的新风险。