BadWAM：想对了但执行错了
Qi Li · hf · 2026-07-17
BadWAM：世界-动作模型会“想对了，做错了”
这篇论文研究 World-Action Models（WAMs） 的对抗脆弱性。WAM 的卖点是把动作生成和未来世界预测耦合在一起，因此常被认为更稳健、可解释，也更安全；但作者指出，这种“想象-执行一致性”其实很脆弱。
论文提出的攻击
BadWAM 统一描述并评估一类针对 WAM 的 World-Action Drift Attacks：
- action-only attack：优先破坏任务，直接把模型推向失败动作
- imagination-preserving attack：同时追求隐蔽性，让模型表面上仍预测出合理未来，但执行时动作已经偏移
结果
- 在不同 WAM 变体上都能显著降低闭环执行成功率
- 文中给出的例子里，action-only 攻击把成功率从 96.5% 降到 43.1%
- 即使加入一定的未来保真正则，也仍可能维持较强攻击效果
结论是：WAM 的“想得像样”并不等于“做得安全”。
「具身」频道最新
- iPhone Duo 内屏沿铰链开裂，苹果官方回应可免费换机 — mobileraj · 2026-10-27
- 19 人团队论文揭示 VLA 模型内部几何：概念多为多维弯曲结构 — ninamiolane · 2026-10-27
- Munro 发布 Cybercab 工程深度拆解视频 — yunta_tsai · 2026-10-27
- 奥斯汀 Robotaxi 车队规模持续扩张 — yunta_tsai · 2026-10-27
- 玩家用本地 LLM + Blender MCP 自动搭建 Halo 无限 Forge 地图 — swagonflyyyy · 2026-10-27
- 极农用无人机配自动机巢：清洗充电加药全自主，要让每个农民拥有机器人 — pstAsiatech · 2026-10-27