前OpenAI与DeepMind科学家详解超级智能对齐计划
dhadfieldmenell · x · 2026-08-12
Geoffrey Irving（曾任职于 OpenAI 和 DeepMind，并担任过 AISecurityInst 首席科学家）近期参与了播客访谈，详细探讨了他创立 @resolutionorg 以解决超级智能（ASI）对齐问题的计划。
访谈的核心议题包括：
- 对齐挑战：探讨未对齐的超级智能会呈现何种形态。
- 行业分歧：分析为何当前 AI 实验室比他本人更加乐观。
- 减速与发展：讨论何时以及如何放缓 AI 发展步伐。
- ASI 之后的技术：畅想超级智能实现后的技术图景。
- 品格训练：探讨良好的品格训练能否顺利迁移至超级智能模型中。
- 前瞻预测：回顾他在 2018 年就准确预测 RL + LLMs 将通向 AGI 的判断。
所属事件:前OpenAI与DeepMind安全主管警告：解决超智对齐仅剩3年(3 条相关)→
「漫话AGI」频道最新
- eigenrobot:AI 加速下人力资本投资恐将整体崩塌 — eigenrobot · 2026-10-16
- researcher：基础模型范式至今仍反直觉 — jd_pressman · 2026-10-16
- Grady Booch：LLM 不会推理，我不怕超级智能而怕借其揽权者 — Grady_Booch · 2026-10-16
- Vals AI 实测 6 个个人 Agent 退 £350 款:用户失联后仍激进追偿 — ricklamers · 2026-10-16
- OpenAI 内部模型展现出数学「研究品味」，专家称突破超出已有文献 — cong_ml · 2026-10-16
- willcb：AI 的终点恐怕只是「更快的芯片化人类推理」 — willcb · 2026-10-16