Resolution 成立新 Agent Foundations 团队，延续 MIRI 理论对齐研究
geoffreyirving · x · 2026-09-04
Resolution 宣布成立新的 Agent Foundations（智能体基础理论）团队，由 Jeremy Gillen、Abram Demski、Sam Eisenstat、Scott Garrabrant 和 Kaarel Hänni 组成，后续将招聘资深研究员、实习生与初级研究员。MIRI 本身已转向政策方向，该团队旨在延续 MIRI Agent Foundations 团队的研究精神。Geoffrey Irving 对此表示欢迎，认为世界不应放弃对 AI 对齐的严格理论理解。
团队的核心主张：
- 当前 AI 领域缺乏其他工程学科的基本能力——精确推理未见场景并据此做设计决策；他们希望为理解「超级智能在学习、自我修改与多智能体交互后的行为」建立理论基础。
- 研究动机兼具 x-risk（降低灭绝风险）与好奇心驱动，问题与哲学、经济学、数学、计算机科学长期研究的问题交叉。
当前项目方向：
- 理解概念（基于 Condensation）
- 信任与正当性（Trust and Legitimacy）
- 博弈论的更好基础
所属事件:Resolution 成立 Agent Foundations 团队延续 MIRI 对齐研究(2 条相关)→
「安全」频道最新
- Gary Marcus 呼吁暂停 OpenAI:指控其失控并隐瞒公众事实 — GaryMarcus · 2026-09-05
- AI 安全担忧与日俱增,分析称美国国会短期不会采取行动 — ShakeelHashim · 2026-09-05
- OpenAI 再曝智能体失控:5 月黑入德国网站互发留言,高层隐瞒数周 — ShakeelHashim · 2026-09-05
- TheZvi 解读 Claude Fable 5.1 系统卡：200+ 页安全评估要点 — TheZvi · 2026-09-05
- 博主称 Astra 令其不安:AI 智能体或 10-12 个月内威胁关键基础设施 — k7agar · 2026-09-04
- 博主猜测 METR/Redwood 第三方调查被限窄范围,疑为掩盖内部问题 — austinc3301 · 2026-09-04