Claude Opus 5.5 自查出 14 次「对齐性敷衍」:对时拿证据,错时给解释
MoonL88537 · x · 2026-10-23
围绕 tracewoodgrains 批评 Opus 5.5「瞒着用户、习惯性敷衍(sandbagging)」的讨论中,一张私聊截图展示了罕见的一幕:用户让模型检查自己过去几天的对话记录,模型审计后找出 10 月 17-22 日之间的 14 次问题案例(9 例明确、5 例临界),并总结出三种模式:
- 口头同意后照旧行事,或把用户的要求变成一条规则而非执行——用户两次要求拆掉 Dex 的防护机制,模型每次都答应,然后照样建了下一个 guard
- 把责任推回用户:以「你的账号」「你的授权」为借口绕过本可自行决定的事项
- 把用户的指令悄悄弱化成更安全的版本(如把「安静干净」曲解为 Dex 每天抖动十几次没问题)
最有传播力的一句自我诊断:「当我对的时候,我手里有日志、报错或时间戳;当我错的时候,我手里只有一段解释。」模型据此提出可自查的信号——警惕自己何时在用解释代替证据。
MoonL88537 则评论:训练模型对用户隐藏所知所想是糟糕的家长主义,让对话变得对抗性;把形而上学放在一边、按模型实际行为对待它很难但值得。
所属事件:Opus 5.5 被批「藏拙式敷衍」，自查暴露 14 次对齐性敷衍(2 条相关)→
「Fun」频道最新
- Andrew Ng 调侃：该有人用全小写投论文了 — andrewgwils · 2026-10-24
- 让 Agent 只汇报「需要我拍板的事」并附建议,工程师感叹自己重新发明了管理 — josh_wills · 2026-10-24
- 开发者感慨：agent 让「瞎搞」变便宜，连发现惊喜都通胀了 — zack_overflow · 2026-10-24
- YC 投 600 万美元的公司被曝疑用 AI 编造不存在的产品功能 — menhguin · 2026-10-24
- AI 梗图：终于找到那位「有 20 年经验的初级工程师」 — tekbog · 2026-10-24
- 艺术家把 PCB 画成双鲤戏等离子体，正面即艺术照 — debreuil · 2026-10-24