Katja Grace 旧文重热:AI 不毁灭人类,世界也照样「脱轨」

NathanpmYoung · x · 2026-11-22

NathanpmYoung 分享 Katja Grace 2023 年的文章《The other side of the tidal wave》。她写道:未来几十年 AI 导致人类灭绝的概率她估约 10-20%,但她的痛苦甚至超过这个数字所暗示的程度——因为即便不灭绝,她也难以想象生活不会「脱轨」。

她列举可能因超级智能 AI 而终结或被严重扰乱的事物:写作、向他人讲解、能互相帮上忙的友谊、对技能的自豪、思考与学习、做成事情的过程、判断何物有意识——并担心替代品不会真正对我们好,或一切不可逆。「就算我们不死,一切也像是正在终结。」评论区 Frank Lantz 以「呼吸」思想实验回应:人类能习惯并热爱任何事,包括当初看似荒谬的改变。

所属事件:Katja Grace 旧文重热:警惕 AI 不毁灭人类的另一种失控(2 条相关)→

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →