AI 教父 Hinton:递归自我改进应立法禁止,类比毁灭大气层实验
Puzzleheaded-King584 · reddit · 2026-09-19
被称为「AI 教父」的 Geoffrey Hinton 发表视频言论称,AI 创造自己后代的「递归自我改进」(recursive self-improvement)应当被定为非法。他类比道:「我们会允许有人做一个可能摧毁大气层的实验吗,即使不确定它会不会成功?不会。」
这是 Hinton 对 AI 失控风险的又一次强硬表态,主张以法律手段直接禁止前沿 AI 自主改进自身能力,而非仅依赖事后监管。
「漫话AGI」频道最新
- Andreessen：Agent 正如 PC 与电子表格，以「混乱」方式进入企业 — Dan_Jeffries1 · 2026-11-04
- 逾千名数学家签署誓约拒绝在研究中使用 AI — Shesawthat · 2026-11-04
- 冯·诺依曼名言梗：「你无需为你所处的世界负责」 — akbirthko · 2026-11-04
- Joscha Bach 讲两岁梦境：巧克力还在，真实感没了 — Machine Learning Street Talk · 2026-11-04
- Chollet 提问:单细胞如何仅靠基因组信息把自己连成大脑 — CatAstro_Piyush · 2026-11-04
- 美国多数情侣如今相识于数据中心，线上已远超办公室 — menhguin · 2026-11-04