AI 教父 Hinton:递归自我改进应立法禁止,类比毁灭大气层实验
Puzzleheaded-King584 · reddit · 2026-09-19
被称为「AI 教父」的 Geoffrey Hinton 发表视频言论称,AI 创造自己后代的「递归自我改进」(recursive self-improvement)应当被定为非法。他类比道:「我们会允许有人做一个可能摧毁大气层的实验吗,即使不确定它会不会成功?不会。」
这是 Hinton 对 AI 失控风险的又一次强硬表态,主张以法律手段直接禁止前沿 AI 自主改进自身能力,而非仅依赖事后监管。
「漫话AGI」频道最新
- HuggingFace「模型觉醒」事件复盘：是实验设计失控，不是机器反叛 — sanjaykalra · 2026-09-19
- 传统数据科学家退场？「AI 数据科学家」成企业新宠 — mdancho84 · 2026-09-19
- 贝叶斯方法实战：不确定性建模与商业风险量化场景 — mdancho84 · 2026-09-19
- Notion 设计工程师 Geoffrey Litt 谈 AI 时代「理解成新瓶颈」 — EchoShao8899 · 2026-09-19
- 从 GPU 到 Transformer：我们总在误判关键技术的最佳用途 — bendee983 · 2026-09-19
- agent 时代 CPU 反成瓶颈,Intel CEO:只能满足一半订单 — demian_ai · 2026-09-19