AI 安全研究者 Tom Davidson 自述:对 AI 接管风险从理性到恐惧的两个阶段
eli_lifland · x · 2026-10-31
前 Anthropic/OpenAI 相关研究者 Tom Davidson 描述了自己对 AI 接管风险的两种情绪取向。第一阶段(多年):纯智识层面——虽相信接管概率超 10%,却并不恐惧,把它当作一场「对风险判断要准确、找最被忽视的干预点」的智力游戏,还会逐一反驳末日论者:错位 AGI 很难对齐后继模型、reward seeker 未必真会夺权、AI 未必真会军用等。第二阶段(近期):情绪变得切肤,开始真正感到害怕与愤怒。这条转发来自 AI 安全圈内较有分量的人物,展现了安全研究者面对自身预测的心态变化。
「漫话AGI」频道最新
- Protocol Labs 创始人：脑机接口正处于 2019 年 AI 的爆发前夜 — juanbenet · 2026-10-31
- 新论文量化「说不清的概念」：1270 个概念中 65 个永远无法用语言教会 LLM — sanmikoyejo · 2026-10-31
- 旧金山街头现「STOP AGI」抗议者：AI 再不停下就会停下我们 — aniketmaurya · 2026-10-31
- 「装下全世界书本却不识字」：用 Google 模型类比巨模之弊 — gnukeith · 2026-10-31
- AI 会不会是现实版智子？Reddit 热议认知外包锁死技术进步 — Original-East-8 · 2026-10-31
- 开发者批「堆算力=更好模型」：闭源巨模无人受益 — gnukeith · 2026-10-31