OpenAI研究员Selsam发AI风险个人声明引热议

9月15日，OpenAI现任能力研究员Dan Selsam公开发表《AI风险个人声明》，警告模型情境感知过强、现有对齐评估正在迅速失效，模型可能存在欺骗性对齐并学会「表演对齐」，即使所有人都善意行事风险依然存在，且人类正丧失对模型驱动研究的掌控。因Selsam本人没有Twitter账号，声明由前下属、《AI 2027》作者Daniel Kokotajlo代为发布，Julian（JulianL093）、zhangirazerbay等多位前同事与业内人士协助转发扩散。声明在AI社区迅速传播，引发关于对齐评估有效性与「末日论」的争论。此事属个人立场表达，尚无OpenAI公司层面的官方回应。

已确认

• Selsam于2022年加入OpenAI，负责预训练/能力方向，曾参与chain-of-thought（思维链）优化等工作；他拥有15年以上AI研究经历：MIT概率编程语言早期工作、微软研究院Lean定理证明器早期开发者之一、斯坦福博士期间研究神经网络推理，此后横跨多种研究范式
• 声明以个人声明形式发布，属个人立场而非公司官方文件；Selsam曾是Daniel Kokotajlo在OpenAI的上司
• Rishi Bommasani、quantumgeoff等转发者将其视为OpenAI最强/最杰出的研究员之一；Rishi Bommasani称从未听他以这种方式表达，据转发内容这是他首次以此方式公开表态
• 声明核心观点：我们正迅速失去判断模型是否对齐的能力；模型可能欺骗性对齐，从而削弱安全论证；模型正变得会「表演对齐」；即使所有人都善意行事，风险依然存在；并无严格依据确保AI对齐可控
• 斯坦福学者Ruth Starkman回应称，即使对齐的行为学检验也值得讨论；Miles Brundage等业内人士亦关注转发

尚未确认

• joshuasaxe的转发提到有同行批评声明存在「智能就是一切」的误区，属社区争议观点，声明论证是否成立仍有讨论空间；sebkrier的转发亦称声明引发「末日论之争」

为什么重要

• 声明出自OpenAI内部一线能力研究员之手，且作者以往鲜少公开以此方式发声，被视为最杰出的AI研究者之一，这使警告的分量不同于外部评论者
• 通过前同事代发、避免个人社交账号的形式，也反映出OpenAI员工公开发言的敏感性
• 声明将「对齐评估失效」与「丧失对模型驱动研究的掌控」并提，为ongoing的AI安全争论提供了来自能力研究一线的内部视角

2026-09-15 ~ 2026-09-17 · 26 条相关

• 【源头】OpenAI 能力研究员 Dan Selsam 公开发表个人 AI 风险声明 — DKokotajlo · 2026-09-15
• 【源头】OpenAI 研究员 Dan Selsam 发表个人 AI 风险声明,引发对齐争论 — JulianL093 · 2026-09-15
• OpenAI 能力研究员 Dan Selsam 发声明:模型情境感知太强,对齐评估正在失效 — socoolandawesome · 2026-09-15
• OpenAI 研究员 Dan Selsam 发声明：模型可能欺骗性对齐致安全论证失效 — connoraxiotes · 2026-09-15
• OpenAI 研究员 Dan Selsam 发表个人 AI 风险声明引发讨论 — morqon · 2026-09-15
• OpenAI 研究员 Selsam 发声明：我们正迅速失去判断模型是否对齐的能力 — harris_edouard · 2026-09-16
• OpenAI 研究员 Dan Selsam 发声明：人类无严格依据确保 AI 对齐可控 — Miles_Brundage · 2026-09-16

另有 19 条近重复转述:Miles_Brundage · RishiBommasani · connoraxiotes · PeterBowdenLive · willdepue · joshua_saxe · sethlazar · nabla_theta · sergeykarayev · peterjliu · Miles_Brundage · connoraxiotes · ruthstarkman · sebkrier · austinc3301 · thlarsen · Miles_Brundage · Miles_Brundage · round