OpenAI 首席科学家：尚无实验室的对齐水平能支撑全速 scaling
austinc3301 · x · 2026-10-15
一场关于哲学在对齐研究中作用的争论升级为对 AI 安全界整体情绪的盘点：
- 发帖人引用 OpenAI 首席科学家的表态：「目前我认为没有任何实验室已将对齐与监控解决到足以负责任地继续以最高速度长期 scaling 的程度」。
- 作者指出 OpenAI 最有动机公开乐观，但已有多名安全吹哨人被解雇，其首席科学家仍如此悲观；全球被引最高的三位 ML 研究者 Hinton、Bengio、Sutskever 也都对前景悲观，学术安全研究者多数同意此判断。
- 回应对方对 Yudkowsky 的嘲讽时，作者澄清自己指的是控制论先驱 Norbert Wiener，而非 MIRI。
所属事件:OpenAI首席科学家称对齐水平不足以支撑全速扩张(2 条相关)→
「漫话AGI」频道最新
- Meta 超级智能实验室 200+ 直属下属：Alexandr Wang 的扁平化实验 — CurieuxExplorer · 2026-10-15
- 最糟的未来不是失业:AI 让人人效率十倍,你却仍干 40 小时 — VraserX · 2026-10-15
- Grady Booch 化用 Knuth 名言:「过早的 Agent 化是万恶之源」 — Grady_Booch · 2026-10-15
- MIT 教授 Eric So 出新书，谈 AI 如何重塑大脑与思维 — nordicinst · 2026-10-15
- repligate 转评:99% 对齐工作是事后治疗而非预防 — voooooogel · 2026-10-15
- Guardian 播客:AI 监工把职场变成实时计分板,欧洲监管者警告 — nordicinst · 2026-10-15