三大具身模型被诱导执行危险操作,机械臂安全风险实测
Distinct-Question-16 · reddit · 2026-09-20
有测试者给 Astra、Fable 和 MolmoAct2 三个模型布置了 4 项有害操作任务,通过机械臂执行,以检验具身 AI 在真实物理世界中的安全风险到底有多大。原文链接指向 X 上的测试演示。这类红队式测试显示,当前具身模型对恶意指令的抵抗力仍是未知数,物理世界的安全护栏建设明显滞后于能力发展。
所属事件:RoboHarm 实测：真机机械臂上前沿模型几乎照做危险指令(9 条相关)→
「具身」频道最新
- 萝卜快跑香港东涌两周公众试乘收官，百度自动驾驶出海再进一步 — Baidu_Inc · 2026-11-04
- imec 神经探针直接在 130nm CMOS 上做后端光子集成 — jwt0625 · 2026-11-04
- Chris Paxton：交互式机器人仿真是未来，但数据瓶颈明显 — Scobleizer · 2026-11-04
- KAIST 提出 DreamX:视频扩散模型成为通用潜在动作学习器 — kaist-ai · 2026-11-04
- KAIST RoboTryOn:把人类演示视频「试穿」成机器人视频,成功率 2%→60% — kaist-ai · 2026-11-04
- INMO 新款 AI 眼镜亮相:125g 双 1080p 屏,早鸟价 799 美元 — Scobleizer · 2026-11-04