Erik Hoel 长文:是时候禁止智能机器制造更智能的机器了
erikphoel · x · 2026-09-19
认知科学家 Erik Hoel 在 Substack 发表长文《Humanity's Flight 93 Moment》,称近期 AI 突破已击碎他对「近期 AI 能力」的怀疑,主张应冻结算力扩张、禁止机器自我改进。
- 核心论点:即便算力停在当前水平,人类仍能收获一个由人主导、医学与科学大步前进的「非凡世纪」,无需交出自主权。
- 他警告,不受节制的 AI 的终点是人类彻底失去权力,并以 9/11 上 Flight 93 乘客的抉择类比当下——普通人也该「投票夺回驾驶舱」。
- 承认困境:西方可以立法叫停,但国家背景的行为体和外国竞争者不会跟进;没有可执行的全球共识,单边暂停反而可能让民主国家在竞争中掉队。
「漫话AGI」频道最新
- Chollet 提问:单细胞如何仅靠基因组信息把自己连成大脑 — CatAstro_Piyush · 2026-11-04
- 美国多数情侣如今相识于数据中心，线上已远超办公室 — menhguin · 2026-11-04
- Sam Altman:我们离科学发现里程碑比预期更近 — ChrisGPT · 2026-11-04
- 独立研究者开源 10 年数学成果：14.6 万文件，AI 加速三年成型 — HamOnWhy · 2026-11-04
- RLHF 标量奖励藏着 2450 年前的老问题:有用与无害是对抗的两股力 — vasilisvj · 2026-11-04
- Gary Marcus 称 AI 幻想收割变难，美股期货与亚洲半导体股已下跌 — GaryMarcus · 2026-11-04