Katja Grace:AI 十年内致人类灭绝概率 10-20%,但更怕的是「不灭绝的世界」
NathanpmYoung · x · 2026-11-22
AI 风险研究者 Katja Grace 的旧文《The other side of the tidal wave》被 Nathan Young 转发,再度引发关注。
- 她估计未来几十年 AI 导致人类灭绝的概率约 10-20%,但她的痛苦感超过这个数字所暗示的程度
- 原因在于:即使不灭绝,她也难以想象生活会「不离轨」——写作、向人解释、彼此有用的友谊、技能自豪感、思考与学习、亲手搞懂和做成事情、判断什么是有意识的,这些她珍视的东西在超人 AI 面前都可能终结或严重受损
- 她不信任替代品会真正好、对人有益、或可逆
结尾一句被广泛引用:「就算我们不死,一切仍像在走向终结。」
所属事件:Katja Grace 旧文重热:警惕 AI 不毁灭人类的另一种失控(2 条相关)→
「漫话AGI」频道最新
- TIME 开卖仅 AI 机器人可见的隐藏广告,网友直呼解脱 — Specialist_Lab_4226 · 2026-11-22
- RLVR 训练只奖励单任务得分:模型不在乎代码长期可维护性,得靠人来管 — bendee983 · 2026-11-22
- Kenneth Stanley 拆解黎曼猜想证明:印证「伟大不能被计划」 — kenneth0stanley · 2026-11-22
- Kasparov 谈 AI 证黎曼猜想:暴力搜索不需要像人类一样思考 — stevenstrogatz · 2026-11-22
- 菲尔兹奖得主 Tim Gowers 现身伦敦「反对 AI 灭绝」游行并发言 — birchlse · 2026-11-22
- 卫报调查:与 AI 伴侣分手的真实创伤——发抖、哭泣、呼吸困难 — TobyWalsh · 2026-11-22