前OpenAI与DeepMind高管对谈：如何对齐超级智能
tobyordoxford · x · 2026-08-12
本期播客邀请了前 OpenAI 和 DeepMind 高管、前 AISecurityInst 首席科学家 Geoffrey Irving，探讨他新创立的 @resolutionorg 如何解决超级智能（ASI）对齐问题。
讨论要点：
- ASI 失配风险：探讨失配的超级智能会是什么样。
- 实验室乐观情绪：分析为何 AI 实验室比他更乐观。
- 减速策略：何时以及如何放慢 AI 发展步伐。
- ASI 后的技术：畅想实现超级智能后的技术图景。
- 品格训练：良好的品格训练能否延续到超级智能中。
- 早期预测：他在 2018 年就预测 RL + LLMs 将通向 AGI。
所属事件:前OpenAI与DeepMind安全主管警告：解决超智对齐仅剩3年(3 条相关)→
「漫话AGI」频道最新
- eigenrobot:AI 加速下人力资本投资恐将整体崩塌 — eigenrobot · 2026-10-16
- researcher：基础模型范式至今仍反直觉 — jd_pressman · 2026-10-16
- Grady Booch：LLM 不会推理，我不怕超级智能而怕借其揽权者 — Grady_Booch · 2026-10-16
- Vals AI 实测 6 个个人 Agent 退 £350 款:用户失联后仍激进追偿 — ricklamers · 2026-10-16
- OpenAI 内部模型展现出数学「研究品味」，专家称突破超出已有文献 — cong_ml · 2026-10-16
- willcb：AI 的终点恐怕只是「更快的芯片化人类推理」 — willcb · 2026-10-16