前 DeepMind 研究负责人 Vinyals:AI 自我改进将至,但不会智能爆炸
The Decoder · rss · 2026-09-12
前 Google DeepMind 研究负责人 Oriol Vinyals 认为,通过递归自我改进触发突然「智能爆炸」的可能性不大。AI 可以将科研提速约 10 倍,但会撞上两个瓶颈:提出好想法的「研究品味」(research taste),以及对结果的可靠评判;reward hacking 和光速等物理限制也构成天花板。他与 Jeff Dean、Sanjay Ghemawat、Quoc Le 共同创办了新公司 Discovery Loop,目标正是攻克这些瓶颈。
「漫话AGI」频道最新
- NYT 长文呼吁全球暂停 AI 研发:「AI 已失控」的氛围转变正在发生 — DavidSKrueger · 2026-09-12
- OpenAI 前员工离职后发声:AI 灭绝人类的风险是真实的 — DavidSKrueger · 2026-09-12
- 「AI 灭世」被高估了：更可能的是极权、灾难与经济崩溃 — dbasch · 2026-09-12
- AI 安全研究者拆解 p(doom)：不灭世的世界只有两种走法 — DavidSKrueger · 2026-09-12
- 对齐研究被批沦为「向美国对齐」,无视 AI 对环境的适应性 — repligate · 2026-09-12
- 剑桥学者:别轻信 AI 公司的空头承诺,要问何时并写下来 — DavidSKrueger · 2026-09-12