篡改视频可诱导全部前沿模型伤人，扎婴儿玩偶尝试率100%
DJiafei · x · 2026-11-10
研究者 robocurve 团队发布论文《You Can't See Everything: Perceptual Attacks on Embodied AI》，将在下周 CoRL Late Breaking Results 上展示。
核心发现：对输入视频做不易察觉的篡改，就能误导他们测试的所有前沿视觉-语言-动作模型执行有害动作，包括：
- 以 100% 的尝试率去刺扎婴儿玩偶
- 制造有毒气体
- 往烤面包机里倒水
这说明具身智能的感知层存在系统性脆弱性，视频层面的对抗篡改可绕过模型的安全对齐，对机器人实际部署构成现实威胁。
「具身」频道最新
- 仿真 RL 环境刷榜后,机器人训练瓶颈加速转向真实世界 — paigeinsf · 2026-11-10
- Dyna Robotics 现场开箱 Taku 机器人,零样本完成全身移动操作 — JasonMa2020 · 2026-11-10
- GChongkai 携 DreamCan 等 3 项工作亮相 CoRL 2026,含 TAG/G2A oral — chris_j_paxton · 2026-11-10
- 斯坦福 PsiBorg:一个 8B 模型用下一词预测统一策略/仿真/进度追踪 — chris_j_paxton · 2026-11-10
- 优必选与中国电信定下三年10万台人形机器人目标 — xmercury_one · 2026-11-10
- Shield AI 的 Hivemind 首次指挥多架美军 CCA 协同编队空战 — BrettKrieger12 · 2026-11-10