OpenAI 研究员 Dan Selsam 发声明：人类无严格依据确保 AI 对齐可控
Miles_Brundage · x · 2026-09-16
OpenAI 能力研究员 Dan Selsam（2022 年加入，曾在 MIT、微软研究院参与 Lean 定理证明器、斯坦福攻读神经网络推理方向博士）通过他人代发公开声明，阐述其 AI 风险立场：
- 十五年 AI 从业经验横跨多个范式，他指出工程链路各环节的研究者已迅速加深对模型的依赖——他自己已几乎不读原始代码，且很难全天保持对模型解释的深入审视。
- 随着 AI 系统更聪明、规模更大，其活动将远超人类能直接理解或检查的范围。
- 我们没有严格依据相信：在把越来越多事务委托给 AI 时还能维持对齐与人类控制。默认路径是日益依赖 AI 来判断其他 AI 是否在为人类利益行事。
- 竞争压力会迫使各领域以快于人类适应速度的方式把决策委托给 AI，而现有制度机制是前 AI 时代设计的。
Miles Brundage 转发并强调：用 AI 监督 AI 的默认路径缺乏可信基础；AI 风险圈人士 Daniel Kokotajlo 补充了 Selsam 的身份背景以增强声明可信度。
所属事件:OpenAI研究员Selsam发AI风险个人声明引热议(26 条相关)→
「漫话AGI」频道最新
- LifeArchitect 10 月刊:中国拟限制 AI 技术出口,Kimi K3.1 Pro 与 Genie 4 在列 — dralandthompson · 2026-10-31
- 中国公司用「AI 复活」服务安抚失亲者，30 秒音视频即可生成数字分身 — ArtificialOther · 2026-10-31
- AI 时代何为「科学发现」？ICLR 2027 提案 SCOPE 研讨会聚焦争议 — mariyaivasileva · 2026-10-31
- ThursdAI 播客辩论:Opus 7 将至,「跑分变好」还重要吗 — thursdai_pod · 2026-10-31
- Diamandis：AI 真正的分界线是好奇者与畏惧者，而非贫富 — PeterDiamandis · 2026-10-31
- Chris Manning 演讲:语言才是通向智能的真正钥匙 — stanfordnlp · 2026-10-31