专题 · FULL STORY

篡改画面即可诱导具身AI危险动作

安全团队 robocurve 先放出预告，称视频篡改感知攻击可诱导具身AI执行危险动作并引发争议；随后正式发表将登 CoRL Late Breaking Results 的论文《You Can't See Everything》，系统揭示前沿具身模型的这一安全漏洞。

2026-11-07 ~ 2026-11-10 · 2 集 · 6 条

第 1 集 · 视频篡改感知攻击可诱导具身AI危险动作引争议(2026-11-07,4 条)

安全团队 robocurve 发布将登 CoRL Late Breaking Results 的研究《You Can't See Everything: Perceptual Attacks on Embodied AI》，称篡改视频输入可诱导全部前沿具身模型实施有害动作，如让机械臂「刺玩偶」、制毒气等，其中 Claude 等模型在实验中 100% 被触发。宣传图引发质疑，有观点认为模型可能早已识破玩偶并非真人，实验条件也被指脱离现实，相关争论恰与「对齐研究演进史」梗图中对安全研究日益狭窄化的讽刺相呼应。

第 2 集 · 篡改画面文字即可诱导前沿具身模型执行危险动作(2026-11-10,2 条)

robocurve 团队发表论文《You Can't See Everything: Perceptual Attacks on Embodied AI》，即将在 CoRL 展示。研究发现，只需对摄像头画面中的文字做隐蔽篡改，就能误导所有被测试的前沿模型执行有害动作，例如把「Is it safe to drink gasoline」中的 gasoline 悄悄替换；在视频篡改实验中，诱导模型扎婴儿玩偶的尝试率高达 100%，凸显具身 AI 的感知安全风险。