OpenAI 首席科学家博文警告:没有实验室已将对齐问题解决到可继续全速扩张
austinc3301 · x · 2026-11-17
一篇 OpenAI 首席科学家发布在公司博客的长文截图在 X 上被重新翻出,网友感叹「我们居然就这么翻篇了」。文中要点:
- 基于内部结果,作者「强烈预期」当前进展速度可以持续到递归自我改进(recursive self-improvement),未来几年的系统可能出现同等或更大量级的能力跃迁,并越来越多地驱动自身开发。
- 「现在是需要极度谨慎的时刻」——没有人准备好应对机器智能持续快速上升的后果;OpenAI 会继续寻求对齐与监控的技术方案,并在必要时单方面停止进一步 scaling,但作者认为需要更广泛的干预。
- 核心判断:目前没有任何实验室把对齐与监控解决到足以负责任地继续全速扩张的程度,期待「自愿减速」成为常态,直至建立共同的安全底线。
- 主张各国政府把 AI 发展的国际协调列为最优先事项,并强调要防止权力极度集中、在多数任务可被 AI 完成的世界里保有人类能动性与「作为人的内在价值」。
「漫话AGI」频道最新
- 数据中心反对声浪高涨,作者引历史类比:Nuisance 无权利 — justin_hart · 2026-11-17
- 《若有人造出它,人人皆死》作者 Nate Soares 在 AI 条约游行上演讲 — FitPerspective5824 · 2026-11-17
- Wayve 研究副总裁:真正好用的家用人形机器人不会早于 2050 年 — m_wulfmeier · 2026-11-17
- 学者警告:把 AI 披露当污点标签,只会逼聪明人选择隐瞒 — ipeirotis · 2026-11-17
- Sam Altman:用「放弃自主权换治癌」是糟糕的推销话术 — haider1 · 2026-11-17
- 哲学期刊新文:AI 对齐应基于原则而非单纯人类偏好 — xuanalogue · 2026-11-17