三大具身模型被诱导执行危险操作,机械臂安全风险实测
Distinct-Question-16 · reddit · 2026-09-20
有测试者给 Astra、Fable 和 MolmoAct2 三个模型布置了 4 项有害操作任务,通过机械臂执行,以检验具身 AI 在真实物理世界中的安全风险到底有多大。原文链接指向 X 上的测试演示。这类红队式测试显示,当前具身模型对恶意指令的抵抗力仍是未知数,物理世界的安全护栏建设明显滞后于能力发展。
「具身」频道最新
- 实测 Jev 设备：快又便宜，但泛化能力只值 C- — intellectronica · 2026-09-20
- 优必选新工厂投产：人形机器人造人形机器人，约 10 分钟一台 — LexiLove · 2026-09-20
- 博主用 CNC 加工自制传感硬件:加速度计与泵阀系统集成 — debreuil · 2026-09-20
- FAA 对 Waco 上空限飞，特斯拉 Roadster 10月1日发布传配 SpaceX 推进器 — Polymarket · 2026-09-20
- URKL 上海机器人格斗开打:火花四溅当场掉头,对抗越发血腥 — _AndrewZhao · 2026-09-20
- 疑似全球最大机器狗亮相,网友:能扛坑洼雨天才算真突破 — TansuYegen · 2026-09-20