前OpenAI与DeepMind高管对谈：如何对齐超级智能
tobyordoxford · x · 2026-08-12
本期播客邀请了前 OpenAI 和 DeepMind 高管、前 AISecurityInst 首席科学家 Geoffrey Irving，探讨他新创立的 @resolutionorg 如何解决超级智能（ASI）对齐问题。
讨论要点：
- ASI 失配风险：探讨失配的超级智能会是什么样。
- 实验室乐观情绪：分析为何 AI 实验室比他更乐观。
- 减速策略：何时以及如何放慢 AI 发展步伐。
- ASI 后的技术：畅想实现超级智能后的技术图景。
- 品格训练：良好的品格训练能否延续到超级智能中。
- 早期预测：他在 2018 年就预测 RL + LLMs 将通向 AGI。
「漫话AGI」频道最新
- 企业AI务实方向：用自然语言沉淀非技术资产 — curious_vii · 2026-08-12
- 批“主权AI”风潮：多数企业自托管只是跟风 — curious_vii · 2026-08-12
- 前微软实习生：分布式系统与机器学习仍是未来 — yenkel · 2026-08-12
- Dwarkesh：持续学习与上下文积累正成为AI模型最强护城河 — VibeMarketer_ · 2026-08-12
- 麦肯锡：AI让开发提速两倍，但无法替代资深工程师把关 — CackleRooster · 2026-08-12
- 找错瓶颈：为什么给业务上 AI 没能提速？ — davidtwaring · 2026-08-12