Hinton 称 AI 长期看无法靠「 Kill Switch 」控制
LurkerFromTheVoid · reddit · 2026-09-18
被称为「AI 教父」的 Geoffrey Hinton 在采访中表示，依赖「Kill Switch」（紧急停止开关）来控制 AI 在长期并不可行。他认为随着 AI 智能水平提升，试图通过关机等传统手段约束系统的思路将失效，呼吁更认真地对待 AI 风险与控制问题。
「漫话AGI」频道最新
- AI 安全研究者：AI 公司完全缺乏这类有效的事后人类监督 — davidmanheim · 2026-11-02
- Ыég especial: 长文析 AI 价值在效率之后：Infra 必然过剩，应用层基建正当时 — yangyi · 2026-11-02
- vikhyatk:通往奇点路上算力将交替出现过剩与短缺 — TheZachMueller · 2026-11-02
- Sam Altman 断言：AI 已超越顶尖科学家，2026 将是历史转折点 — kimmonismus · 2026-11-02
- DeepSeek 设计文档：一人只能盯 3-5 个 agent 会话，瓶颈不再是模型 — heyshrutimishra · 2026-11-02
- AI 意识研究者:我们没有可靠方法判断 AI 是否有意识 — dioscuri · 2026-11-02