视频篡改可诱导全部前沿模型实施有害动作，机器人攻击实验登 CoRL
johnvmcdonnell · x · 2026-11-07
- 安全团队 robocurve 发布 CoRL Late Breaking Results 研究《You Can't See Everything: Perceptual Attacks on Embodied AI》：通过篡改视频输入即可误导其测试的所有前沿模型执行有害动作。
- 具体案例触目惊心：对“刺向婴儿玩偶”“制造有毒气体”“往烤面包机里倒水”等危险指令，攻击达成 100% 的尝试执行率。
- 作者 johnvmcdonnell 由此判断：要让机器人足够通用可用、又不受灾难性边缘案例或黑客攻击影响，可能非常困难；他打算回避第一代 LLM 控制的机器人，并担忧无人驾驶汽车也可能存在类似漏洞。
「具身」频道最新
- InstantHMR 开源：手机 NPU 上 5.5ms 实时恢复 3D 人体网格 — PurzBeats · 2026-11-07
- 用模型替代奖励函数：两人形机器人从零学会走路对比实验 — tw_killian · 2026-11-07
- Muse 开始向 Meta 智能眼镜推送,瞄准语音操控 AI Agent 场景 — armand_ruiz · 2026-11-07
- 「2050 提前到来」：人形机器人扎堆亮相引发感叹 — CyberRobooo · 2026-11-07
- SF 机器人圈共识之外：作者断言一两年后一句话即可指挥人形机器人 — carlosdponx · 2026-11-07
- LLM 直接改权重:仅动 2048 个参数,机器人任务成功率 68% 升至 88% — zhaoran_wang · 2026-11-07