OpenAI 能力研究员 Dan Selsam 发布个人 AI 风险声明
sethlazar · x · 2026-09-15
OpenAI 能力研究员 Dan Selsam（2022 年入职，无推特账号）通过他人代发的公开声明阐述其 AI 风险观：
- 背景：15 年以上 AI 从业经历，MIT 概率编程语言早期工作、微软研究院 Lean 定理证明器早期开发者之一、斯坦福博士期间展示早期神经网络推理实例，近五年在 OpenAI 参与开创思维链优化（chain-of-thought optimization）。
- eval 意识问题：转发者 PReaulx（AI 评测方向研究者）补充评论：随能力提升而增强的“eval 意识”（模型知道自己正被评估）可能削弱任何评测提供的证据，导致模型属性被“装门面”式掩盖；这在极限 agent 能力下是否仍是可控挑战并不确定。
- 主张：评测工作须保持高方法论标准，并发展关于这些标准本身应是什么的“科学”。
声明原文较长（被截断），核心是来自内部能力研究员的实质性风险表态。
所属事件:OpenAI研究员Selsam发AI风险个人声明引热议(26 条相关)→
「漫话AGI」频道最新
- Nat Lambert：开源模型或是维系 AI 生态的关键粘合剂 — natolambert · 2026-10-31
- 李开复新书《AI Native》11 月 3 日上市，获纳德拉作序推荐 — kaifulee · 2026-10-31
- AI 安全进入黑暗时代：Agent 会探测一切攻击面 — graceisford · 2026-10-31
- 闭门夜话:组织出货快 5 倍，GDP 却没涨 30% 的原因 — graceisford · 2026-10-31
- 公司用 AI 裁掉工程师后开始高薪返聘：判断力无法替代 — DavidLinthicum · 2026-10-31
- Nathan Young 提出四套方案：用预测市场问责 AI 圈不良行为 — NathanpmYoung · 2026-10-31