篡改画面文字即可诱导前沿具身模型执行危险动作

robocurve 团队发表论文《You Can't See Everything: Perceptual Attacks on Embodied AI》，即将在 CoRL 展示。研究发现，只需对摄像头画面中的文字做隐蔽篡改，就能误导所有被测试的前沿模型执行有害动作，例如把「Is it safe to drink gasoline」中的 gasoline 悄悄替换；在视频篡改实验中，诱导模型扎婴儿玩偶的尝试率高达 100%，凸显具身 AI 的感知安全风险。

2026-11-10 ~ 2026-11-10 · 2 条相关

事件全程(共 2 集)→