对齐研究元老 Paul Christiano:三年内 AI 接管风险很高
austinc3301 · x · 2026-11-10
AI 对齐领域最早的研究者之一 Paul Christiano 在 Hinton Lectures 上表示:
- 「我认为未来三年内发生 AI 接管(takeover)的风险很高。」
- 「假如你、我或特朗普想阻止这些 AI,效果会像你我试图阻止美军一样无效。」
这是对齐圈核心人物关于 AI 失控时间线的罕见直言,把接管风险窗口压缩到三年级别,并断言个人乃至国家元首届时都将无力干预。
「漫话AGI」频道最新
- Stripe CEO 读小说引惊叹,快反馈回路才是高效能者共性 — floguo · 2026-11-11
- X 官方 AI 已写 58% 社区笔记，人类作者降至 35% — NathanpmYoung · 2026-11-11
- Ought 出资 50 万至 500 万美元设立认识论基金，招募事实核查类项目 — NathanpmYoung · 2026-11-11
- 问模型「AI 超过你之前该做什么」,回答值得抄进备忘录 — alex_verem · 2026-11-11
- 民调:69% 美国人支持最大 AI 公司一半股权划入公共主权财富基金 — PeterDiamandis · 2026-11-11
- 保加利亚高速 50 车连环相撞致 12 死,引发自动驾驶争论 — Dr_Singularity · 2026-11-11