DeepMind 研究员更新 AI 对齐资源清单，覆盖对齐与控制全谱系
vkrakovna · x · 2026-10-20
DeepMind 对齐研究员 Victoria Krakovna 宣布对其长期维护的 "AI alignment resources" 清单做重大更新（2026 年 10 月版，Beth Barnes 与 Neel Nanda 参与反馈）。该清单是为快速掌握 AI 对齐与控制主流思想而精选的资源列表。
结构覆盖：
- 入门与概览：面向大众与技术读者、威胁模型、研究议程；新增 Dario Amodei 文章《The Adolescence of Technology》及 1300+ 前沿公司员工联署的《Pacing the Frontier》声明、80,000 Hours 的失控问题画像等
- 战略与治理：治理框架与论文、预测
- 技术工作：规范指定、可扩展监督、奖励学习、泛化、AI control、思维链监控与忠实性、模型评估、对齐审计、失准演示与现实事故
- 理解方向：机制可解释性、权力寻求、规范投机、副作用、篡改与 wireheading
- 职业板块：职业建议、项目与课程、社区
「漫话AGI」频道最新
- BigLaw 一年剧变:合伙人把成堆法律调研甩给会用 AI 的初级律师 — soumitrashukla9 · 2026-10-20
- tbpn 最新一期：50GW 电力、17% GDP 增长与 Bing Gordon 加入 — jordihays · 2026-10-20
- 数据中心才是真正的回形针,全球债市是那块钢 — m2saxon · 2026-10-20
- 别当 agent 的人肉代理：让数字分身忠实传递你的想法 — danshipper · 2026-10-20
- Anthropic 研究员用研究 Agent 强度是 OpenAI 4 倍，两家每 35 天翻倍 — peterwildeford · 2026-10-20
- 新旧软件经济已分道扬镳？投资人激辩 AI 原生公司的护城河 — matt_slotnick · 2026-10-20