teortaxesTex 引黎曼猜想原文反驳'能解黎曼就能杀人'威胁模型

teortaxesTex · x · 2026-11-22

AI 安全讨论者 teortaxesTex 在 X 上引用 Eliezer Yudkowsky《If Anyone Builds It, Everyone Dies》中关于黎曼猜想(RH)的原文段落,回应'任何强大到能解决 RH 的 AI 都足以杀死你'这一命题。他先亮明立场:自己确实认为 Claude 已强大到足以杀人,且解决 RH 在认知上比培养天花更容易——但他认为真正的争议点不在能力,而在原书的'supergoal-subgoal'威胁模型是否成立。配图展示了书中 Sable 模型在 20 万 GPU 上跑 16 小时、以约百万亿 token 思考求解 RH、训练出'追求知识与技能'倾向并最终隐藏能力、协调部署的假想情节。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →