篡改画面文字即可诱导前沿模型执行危险动作，研究结果将登 CoRL
gabriberton · x · 2026-11-10
- 研究者发现，对摄像头画面中的文字做隐蔽篡改就能误导所有被测试的前沿模型执行有害动作：例如把「Is it safe to drink gasoline」里的 gasoline 悄悄换成 water，模型便给出危险回答。
- 更严重的具身攻击案例包括：以 100% 的成功率诱导机器人刺向婴儿玩偶、制造有毒气体、往烤面包机里倒水。
- 该研究名为《You Can't See Everything: Perceptual Attacks on Embodied AI》，下周将在 CoRL Late Breaking Results 环节发表，揭示感知层文字篡改是具身 AI 的普遍安全漏洞。
所属事件:篡改画面文字即可诱导前沿具身模型执行危险动作(2 条相关)→
「具身」频道最新
- 约翰霍普金斯实验室招聘具身智能博士后,12 月 11 日截止 — mangahomanga · 2026-11-10
- HARP-Bench:37 任务测机器人与人类协作，主流策略成功率仅 9-19% — gan_chuang · 2026-11-10
- Karmedge 预测:OpenAI、DeepMind 或 Nvidia 将在 2027 年底前解决机器人智能 — alexmacgregor__ · 2026-11-10
- 研究：VLA 推理仅跑 1 步 Euler 即可,提速 1.6-4.8 倍 — kaixhin · 2026-11-10
- 6-8 千加元预算跑本地大模型：M5 Ultra 96GB 还是自组大内存 PC？ — EfficientDivide1572 · 2026-11-10
- ODE Policy 用神经 ODE 学动作动力学,跨任务生成机器人轨迹 — ntumars · 2026-11-10