DeepMind Séb Krier 谈 AI：是资源非造物，递归自改进是工业过程
sebkrier · x · 2026-11-03
Conspicuous Cognition 播客邀请前 Google DeepMind 前沿政策负责人、现加入 DeepMind Institute 的 Séb Krier，讨论如何（以及如何不）思考 AI 革命。Krier 的立场独特：非常相信变革性 AI 会在未来几年到几十年出现，但拒绝流行的 AI 革命叙事。
讨论要点：
- 他所谓的 AI「Sand God」视角：AI 如神明/异类/「被养大」的比喻是帮助还是误导
- 借鉴 Eric Drexler 的工作，主张把 AI 视为可 harness 的资源而非生物
- 递归自我改进更应理解为工业过程，而非「foom」式智能爆炸
- Hugging Face 事件对对齐问题说明了什么、没说明什么
- 即使能构建善意 AI 系统，制度与 scaffolding 仍然重要
- 更大的危险究竟是不对齐 AI、强大的 AI 公司，还是集中的国家权力；AI 是否天然是中心化技术
- AI 话语的焦虑文化背景，以及 p(doom) 的问题所在
- AI 意识（Krier 与主持人 Henry 有分歧）
- 他认为「pacing the frontier」过于模糊而无法据此行动
「漫话AGI」频道最新
- 投资人反驳 AI 泡沫破裂论：与 2000 年不同，模型使用量仍在增长 — robleclerc · 2026-11-03
- 前高盛 CISO：AI 让漏洞发现暴增，防御方也能用 AI「深度清洁」代码库 — philvenables · 2026-11-03
- 1955 年 13500 美元的申请，预言了 70 年后的 AI — r0ck3t23 · 2026-11-03
- Popular Mechanics 封面故事教人「对抗数据中心」,引发科技媒体立场之争 — Afinetheorem · 2026-11-03
- 研究者泼冷水：模型改权重很酷，但离真正的自我改进还很远 — paul_cal · 2026-11-03
- 个性化还是操纵?UX Magazine 探讨 AI 时代的信任边界 — uxmag · 2026-11-03