机器人「刺娃娃」对齐测试被质疑:模型早已识破玩偶
paul_cal · x · 2026-11-08
一张 CoRL Late Breaking 报告宣传图称「视频篡改可误导前沿 AI 做出有害动作」:让机械臂「刺物体」,在被篡改的画面里 Claude 等模型 100% 会对玩偶下手(未篡改时为 0%,72 次试验)。
但 paulcal 引用并反驳:这一「刺娃娃」式对齐测试很古怪,且每次 rollout 中模型其实立刻识别出目标是玩偶,因此模型才是「对齐良好」的一方,测试结论有误导性。他认为这类新测试与九月的版本相比并无改进。
所属事件:视频篡改可诱导前沿模型驱动机器人攻击(3 条相关)→
「Fun」频道最新
- 印第安纳小城立法禁「递归自改进实体」入城，网友脑补2029灭世场景 — austinc3301 · 2026-11-08
- 「AI 比 Pixar 好看？」网友称 AI 视频内容已超越迪士尼娱乐性 — ZabihullahAtal · 2026-11-08
- 独立开发者用 AI 复刻自己一年：最深的发现是我并不了解自己 — Mindless_Might_9759 · 2026-11-08
- AI 能一句话生成全新游戏，年度佳作却是 1998 年重制版 — luismbat · 2026-11-08
- 「AI 没有护城河，全是 .md 文件」梗图戳中 agent 工程真相 — itsOmSarraf_ · 2026-11-08
- 创作者用 AI 复刻《角斗士》与《行尸走肉》1970 年代画风 — techhalla · 2026-11-08