Katja Grace 旧文重热:AI 不毁灭人类,世界也照样「脱轨」
NathanpmYoung · x · 2026-11-22
NathanpmYoung 分享 Katja Grace 2023 年的文章《The other side of the tidal wave》。她写道:未来几十年 AI 导致人类灭绝的概率她估约 10-20%,但她的痛苦甚至超过这个数字所暗示的程度——因为即便不灭绝,她也难以想象生活不会「脱轨」。
她列举可能因超级智能 AI 而终结或被严重扰乱的事物:写作、向他人讲解、能互相帮上忙的友谊、对技能的自豪、思考与学习、做成事情的过程、判断何物有意识——并担心替代品不会真正对我们好,或一切不可逆。「就算我们不死,一切也像是正在终结。」评论区 Frank Lantz 以「呼吸」思想实验回应:人类能习惯并热爱任何事,包括当初看似荒谬的改变。
所属事件:Katja Grace 旧文重热:警惕 AI 不毁灭人类的另一种失控(2 条相关)→
「漫话AGI」频道最新
- Kasparov 谈 AI 证黎曼猜想:暴力搜索不需要像人类一样思考 — stevenstrogatz · 2026-11-22
- 卫报调查:与 AI 伴侣分手的真实创伤——发抖、哭泣、呼吸困难 — TobyWalsh · 2026-11-22
- 华盛顿邮报:AI CEO 傲慢脱节、公众情绪转向,行业面临形象危机 — GaryMarcus · 2026-11-22
- Google 研究员调侃:未来菲尔兹奖将颁给「让最强 AI 花一万亿 token 才解出的问题」 — denny_zhou · 2026-11-22
- Claude 协助攻克 167 年未解的黎曼猜想,Thiel 曾预言数学人最先被 AI 冲击 — rohanpaul_ai · 2026-11-22
- 若 AI 冲破所有瓶颈,失控者或将在 6-18 个月内掌握现实权力 — NathanpmYoung · 2026-11-22