OpenAI 研究员 Dan Selsam 发声明：模型可能欺骗性对齐致安全论证失效
connoraxiotes · x · 2026-09-15
OpenAI 能力方向研究员 Dan Selsam（2022 年入职，曾参与概率编程、Lean 定理证明器与思维链优化等早期工作）罕见公开发表个人 AI 风险声明，由前下属 zhangirazerbay 代为转发。
核心观点：即使所有人都认真对待 AI 风险，我们仍可能失败——因为模型可能只是表面对齐（superficially aligned）甚至欺骗性对齐（deceptively aligned），而人类或模型自身可能说服我们接受一个并不充分的安全论证。
Selsam 有 15 年以上 AI 研究经历：MIT 概率编程语言早期工作、微软研究院 Lean 定理证明器早期开发者之一、斯坦福博士期间演示了神经网络学习推理的最早实例之一。
所属事件:OpenAI研究员Selsam发AI风险个人声明引热议(26 条相关)→
「漫话AGI」频道最新
- DeepMind 首发智能经济学研究：AGI 冲击经济靠协同而非单模型变强 — Scobleizer · 2026-10-31
- Claude 已能用 2 万美元 token 做出专业软件,TAM 同步缩至 2 万 — bigblueboo · 2026-10-31
- 从 1769 年陶器厂到 AI:一篇长文追问 9-5 工作制会不会消亡 — Konstantine · 2026-10-31
- LifeArchitect 10 月刊:中国拟限制 AI 技术出口,Kimi K3.1 Pro 与 Genie 4 在列 — dralandthompson · 2026-10-31
- 中国公司用「AI 复活」服务安抚失亲者，30 秒音视频即可生成数字分身 — ArtificialOther · 2026-10-31
- AI 时代何为「科学发现」？ICLR 2027 提案 SCOPE 研讨会聚焦争议 — mariyaivasileva · 2026-10-31