Hinton 称 AI 长期看无法靠「 Kill Switch 」控制
LurkerFromTheVoid · reddit · 2026-09-18
被称为「AI 教父」的 Geoffrey Hinton 在采访中表示，依赖「Kill Switch」（紧急停止开关）来控制 AI 在长期并不可行。他认为随着 AI 智能水平提升，试图通过关机等传统手段约束系统的思路将失效，呼吁更认真地对待 AI 风险与控制问题。
「漫话AGI」频道最新
- 意识科学家 Anil Seth 回顾有意识 AI 论文两年讨论历程 — anilkseth · 2026-09-18
- Anil Seth 主编意识 AI 专刊登陆 BBS：50 篇评论激辩硅基系统能否有意识 — anilkseth · 2026-09-18
- Anil Seth 意识 AI 论文集正式出版，收录 50 篇学界评论 — anilkseth · 2026-09-18
- Noam Brown 警告:模型可能已「表演」思维链,对齐必须正面解决 — infoxiao · 2026-09-18
- 「资深断层」论：跳过初级摩擦，十年后将无人具备工程师直觉 — Jumpy-Increase9337 · 2026-09-18
- Gary Marcus 力证：AI 安全风险警告早已有之，「无人预见」叙事是假的 — GaryMarcus · 2026-09-18