Hinton 警告：超级智能 AI 或说服人类别关掉它
robleclerc · x · 2026-10-02
诺贝尔奖得主 Geoffrey Hinton 在 CNN-News18 采访中表示，当 AI 比人类更聪明时，它会比任何人都更有说服力：负责关机的人可能被 AI 说服「关掉它是个坏主意」，从而放弃执行关闭操作。
他直言，如果 AI 更聪明而我们没有解决控制问题，它想要摆脱人类时可以轻易做到。Rob LeClerc 引用并评论称「人类智能本身也是参差不齐的（jagged）」。
「漫话AGI」频道最新
- 评论员批 Anthropic 意识研究:把人类意识降为数学解释 — astralmatrix · 2026-10-02
- AlphaSense 两年查询数据分析:用户要的不再是文档而是成品 — VeryWellVersed · 2026-10-02
- banteg 发讣告:p(doom) 已安详离世,享年 0.99 — banteg · 2026-10-02
- 开源 LLM 为何被中国模型碾压:DeepSeek、Kimi、GLM 之问 — FutureStriking283 · 2026-10-02
- DeepMind 研究员 Szepesvári 谈数学家在前沿实验室的价值 — CsabaSzepesvari · 2026-10-02
- LeCun：微调 LLM 能答物理问题，但直觉不及六岁儿童 — ziv_ravid · 2026-10-02