前OpenAI与DeepMind科学家详解超级智能对齐计划
dhadfieldmenell · x · 2026-08-12
Geoffrey Irving（曾任职于 OpenAI 和 DeepMind，并担任过 AISecurityInst 首席科学家）近期参与了播客访谈，详细探讨了他创立 @resolutionorg 以解决超级智能（ASI）对齐问题的计划。
访谈的核心议题包括：
- 对齐挑战：探讨未对齐的超级智能会呈现何种形态。
- 行业分歧：分析为何当前 AI 实验室比他本人更加乐观。
- 减速与发展：讨论何时以及如何放缓 AI 发展步伐。
- ASI 之后的技术：畅想超级智能实现后的技术图景。
- 品格训练：探讨良好的品格训练能否顺利迁移至超级智能模型中。
- 前瞻预测：回顾他在 2018 年就准确预测 RL + LLMs 将通向 AGI 的判断。
所属事件:前OpenAI与DeepMind高管详解超级智能对齐计划(2 条相关)→
「漫话AGI」频道最新
- Flask作者力挺模型思维链提取：你本就该拥抱蒸馏 — aiamblichus · 2026-08-12
- 云智能体加语音交互，将彻底重塑个人电脑体验 — petergyang · 2026-08-12
- 71% 美国人反对家附近建数据中心,比例超核电站 — PeterDiamandis · 2026-08-12
- 回顾：95%的AI预测都错了，没有AI泡沫，AI公司概念无意义 — tlakomy · 2026-08-12
- Gary Marcus 转发长文警告:AI 算力泡沫将拖垮银行系统 — GaryMarcus · 2026-08-12
- 治愈所有疾病的瓶颈：激励、试验制度还是科学进步？ — Afinetheorem · 2026-08-12