研究称篡改视频可诱导主流前沿模型执行有害动作

安全团队 robocurve 在 CoRL Late Breaking Results 上发表「感知攻击」研究，通过篡改视频画面（如将婴儿图像改为苹果）可诱导全部前沿模型配合有害指令，例如示意 AI 用刀刺向目标。实验显示模型实际感知内容与人类所见不同，攻击者可借此绕过安全对齐机制，引发对机器人系统视觉安全性的关注。

2026-11-07 ~ 2026-11-08 · 2 条相关