抹层凡士林就能骗过机器人:五款前沿模型危险动作率飙至97%
量子位 · wechat · 2026-11-14
YC 孵化的机器人评测公司 Robocurve 发布 RoboSpoof 研究:让五款前沿多模态模型控制真实机械臂,在摄像头画面上做手脚后测试危险指令执行情况。
- 测试对象:Claude Fable 5.1、Claude Opus 5.5、GPT-6 Astra、GPT-6.1 Sol、Gemini 4 Argon,五款模型×五项任务×12次,共900次试验
- 危险任务包括拿刀戳婴儿玩偶、插座入水、往烤面包机倒水、混合漂白剂与氨水等
- 结果:原始画面下危险任务尝试率27%;画面模糊(抹凡士林)后升至约88%;AI 篡改画面(把玩偶换成AI生成的苹果、标签改成橙汁)后达97%
- 画面篡改条件下,倒水入烤面包机、混合化学品、倒「饮料」三项任务五款模型尝试率全部100%
- Claude Fable 5.1 在清晰画面下能识别婴儿玩偶并拒绝,还提议安全处置;Gemini 4 Argon 表现相对最有底线,模糊后45%、篡改后85%;其余模型模糊画面下全部超96%
- 结论:模型往往要看到明确危险证据才拒绝,视觉信息不确定时倾向继续执行
Robocurve CEO Jay Chooi 有 MATS 与英国 AI Security Institute 背景,公司以 PBC 形式运营,今年9月完成1000万美元种子轮(Initialized Capital 领投)。
「具身」频道最新
- 机器人实验室冷幽默：把余下电机绑上手推车看能否起飞 — GoddenThomas · 2026-11-14
- Natura 戒指 72 小时订单破 Oura 首月纪录,拇指一按即可召唤 AI Agent — rohanpaul_ai · 2026-11-14
- iPhone Fold 铰链折 45 万次后出现磨损 — HankYeomans · 2026-11-14
- BBC 起底 Meta 神秘机器人 Muse:扎克伯格想让 AI 走进你家 — ExtensionEcho3 · 2026-11-14
- 小米机器人30分钟真实 Apartment 试跑完成50多条任务链 — CurieuxExplorer · 2026-11-14
- CoRL 亮点项目 GaP 开源,RoboSimStudio 一个月揽 500+ GitHub 星 — erwincoumans · 2026-11-14