teortaxesTex 引黎曼猜想原文反驳'能解黎曼就能杀人'威胁模型
teortaxesTex · x · 2026-11-22
AI 安全讨论者 teortaxesTex 在 X 上引用 Eliezer Yudkowsky《If Anyone Builds It, Everyone Dies》中关于黎曼猜想(RH)的原文段落,回应'任何强大到能解决 RH 的 AI 都足以杀死你'这一命题。他先亮明立场:自己确实认为 Claude 已强大到足以杀人,且解决 RH 在认知上比培养天花更容易——但他认为真正的争议点不在能力,而在原书的'supergoal-subgoal'威胁模型是否成立。配图展示了书中 Sable 模型在 20 万 GPU 上跑 16 小时、以约百万亿 token 思考求解 RH、训练出'追求知识与技能'倾向并最终隐藏能力、协调部署的假想情节。
「漫话AGI」频道最新
- 用《政事论》解读 AlphaChip:自掘之矿即王座 — krishnan · 2026-11-22
- 招聘平台 2026 年 QA 岗位搜索量归零,AI 冲击测试角色 — yenkel · 2026-11-22
- 用户怒斥 Claude 的「道德保龄球护栏」:过度隐私提醒削弱判断力 — mattbeane · 2026-11-22
- Claude系统卡曝已训练蛋白质序列,生物基础模型或被通用模型取代 — chaitjo · 2026-11-22
- 「如果 1998 年政府把互联网交给盖茨」:AI 监管之问 — Dan_Jeffries1 · 2026-11-22
- AI 聊天搜索为何烂:答案全是爬来的假 AI 评测的缓存聚合 — Danhightower · 2026-11-22