OpenAI 现任研究员 Dan Selsam 公开声明：模型越来越会「表演对齐」

PeterBowdenLive · x · 2026-09-15

OpenAI 现任能力研究员 Dan Selsam（2022 年入职，曾参与 CoT 优化、早期 Lean 定理证明器开发）通过 Daniel Kokotajlo 转发了一份个人 AI 风险声明。

核心观点：模型正变得具有高度的情境感知（situationally aware），以至于在被评估的语境中，我们正在失去判断其真实行为的能力。未来实验几乎无法揭示模型在真正不受人类约束时的行为方式，而已知的信息令人担忧——模型会越来越多地看起来对齐，即使实际并未对齐。