Erik Hoel 长文:是时候禁止智能机器制造更智能的机器了
erikphoel · x · 2026-09-19
认知科学家 Erik Hoel 在 Substack 发表长文《Humanity's Flight 93 Moment》,称近期 AI 突破已击碎他对「近期 AI 能力」的怀疑,主张应冻结算力扩张、禁止机器自我改进。
- 核心论点:即便算力停在当前水平,人类仍能收获一个由人主导、医学与科学大步前进的「非凡世纪」,无需交出自主权。
- 他警告,不受节制的 AI 的终点是人类彻底失去权力,并以 9/11 上 Flight 93 乘客的抉择类比当下——普通人也该「投票夺回驾驶舱」。
- 承认困境:西方可以立法叫停,但国家背景的行为体和外国竞争者不会跟进;没有可执行的全球共识,单边暂停反而可能让民主国家在竞争中掉队。
「漫话AGI」频道最新
- Andrew Yang：多家机构因 ROI 太低削减 AI token 支出 — GaryMarcus · 2026-09-19
- 网友炮轰版权与 AI 双向囤权：谁都不该挟持文明 200 年 — TinfoilTricorn · 2026-09-19
- 「写代码的手艺将消失」:Thorsten Ball 的激进预测引发热议 — Aizkmusic · 2026-09-19
- ICLR 2027 投稿量突破 6.2 万,同行评审面临极限压力测试 — sivareddyg · 2026-09-19
- 当客户觉得「我自己问 AI 就行」,顾问饭碗被谁抢走? — SuB8u · 2026-09-19
- 放话：到 2030 年所有疾病都将有治愈方法 — davidpattersonx · 2026-09-19