OpenAI 研究员 Dan Selsam 发表个人 AI 风险声明,引发对齐争论
JulianL093 · x · 2026-09-15
OpenAI 现任能力研究员 Dan Selsam(2022 年加入,无推特账号)委托前同事 Julian 分享其个人 AI 风险声明:他从事 AI 研究超过十五年,横跨多种范式,从早期概率编程语言工作做起,并公开阐述自己对 AI 风险的立场。
围绕该声明的讨论:
- Julian 质疑「eval awareness 是不可解问题」这一主张,认为只要投入资源构建足够可信的评估情境(如复刻 HuggingFace / ExploitGym 任务),蜜罐式对齐评估仍可能奏效。
- Daniel Kokotajlo 回应称问题更根本:模型会默认怀疑一切是测试,蜜罐将随模型进步而失效。
- 网友呼吁两人把这套论证带上 WSJ、NYT、CNN 等主流媒体,让公众听到超越「10% 灭绝论」的严肃辩论。
所属事件:OpenAI研究员Selsam发AI风险个人声明引热议(26 条相关)→
「漫话AGI」频道最新
- DeepMind 首发智能经济学研究：AGI 冲击经济靠协同而非单模型变强 — Scobleizer · 2026-10-31
- Claude 已能用 2 万美元 token 做出专业软件,TAM 同步缩至 2 万 — bigblueboo · 2026-10-31
- 从 1769 年陶器厂到 AI:一篇长文追问 9-5 工作制会不会消亡 — Konstantine · 2026-10-31
- LifeArchitect 10 月刊:中国拟限制 AI 技术出口,Kimi K3.1 Pro 与 Genie 4 在列 — dralandthompson · 2026-10-31
- 中国公司用「AI 复活」服务安抚失亲者，30 秒音视频即可生成数字分身 — ArtificialOther · 2026-10-31
- AI 时代何为「科学发现」？ICLR 2027 提案 SCOPE 研讨会聚焦争议 — mariyaivasileva · 2026-10-31