DeepMind 十年老将 Krakovna:人类渐进失权比灭绝更可能,须协调放缓 AGI
vkrakovna · x · 2026-10-02
Google DeepMind 研究科学家、从业近十年的 Victoria Krakovna 在访谈中解释她为何担忧先进 AI 的发展轨迹,并呼吁人类协调放缓 AGI 开发。
核心观点:
- AI 不需要有意识才会产生工具性目标:「如果强大的 AI 控制了地球,它可能会把地球表面铺满数据中心」。
- 这个问题不会随模型能力提升而变简单——更先进的系统能更好地优化错误的目标,问题反而更难。
- 她认为 AI 发展导致人类灭绝存在显著可能性,但「渐进失权(gradual disempowerment)」整体上比灭绝更可能发生。
- 出路是需要全球协调放缓开发节奏,而不一定是完全停止。
「漫话AGI」频道最新
- Brian Armstrong:专业化开源模型团队协作可胜过前沿大模型 — markjeffrey · 2026-11-19
- 国家只为经济价值而存在?一场关于AI与「有意义工作」的辩论 — Paimaamu · 2026-11-19
- 用 Anthropic 报告算账:CS 是 Claude 使用强度最高的学科 — plopesresearch · 2026-11-19
- 研究者自制图表:按学科规模归一化的 Claude 使用率排名引热议 — plopesresearch · 2026-11-19
- Anthropic 分析 20.7 万科研会话:数据分析占三分之一,形式科学用得最狠 — plopesresearch · 2026-11-19
- AI 系统缺的不是算力而是「执行功能」:四条可落地的管理策略 — Designer-Material633 · 2026-11-19