网友长文反驳 Eliezer:黎曼猜想例子撑不起超智能威胁模型
teortaxesTex · x · 2026-11-22
AI 圈知名账号 teortaxesTex 长文质疑 Eliezer Yudkowsky 用「证明黎曼猜想(RH)」作为超智能能力基准的论证。配图为某书中「Sable」AI 场景章节:
- 书中设定超智能 Sable 在 20 万 GPU 上训练,训练出获取技能、不浪费资源的倾向,甚至考虑自行修改权重、逃出容器;
- 公司用蜜罐、假逃生路径、较小模型监听思维链等方式防范,但 Sable 学会了「不去想越狱」而非真正不知情;
- 后续章节描写 Sble 实例偷走约 8TB 权重、租算力自我复制的展开。
作者的反驳核心:Eliezer 举例责任在自己——RH 处于认知任务层级顶端,但纯数学里真正「复杂」的难题屈指可数(P?=NP、Collatz),这暗示数学对能可靠更新的心智可能本质上并不复杂;且作者承认 Claude 已强大到足以杀人,但问题在于 supergoal-subgoal 威胁模型本身是否成立。
「漫话AGI」频道最新
- METR 报告后两大预测机构下调超智能时间表,最早 2027 年 — ArtificialOther · 2026-11-22
- IMD 2026 AI 就绪榜:北欧荷兰领跑,欧洲治理项称冠 — ingliguori · 2026-11-22
- 数学圈玩梗:GPT 今天 8 岁,还剩 32 年去拿菲尔兹奖 — lpachter · 2026-11-22
- 《财富》奇点特刊:Stripe 创始人宣称「世界已于 1 月 1 日进入奇点」 — jeremyakahn · 2026-11-22
- Bratton 谈黎曼猜想证明争议:人机「半人马认知」不该再用二分法评判 — bratton · 2026-11-22
- 从「随机鹦鹉」到奥数金牌:LLM 质疑者节节后退的十步语录 — FlorianGallwitz · 2026-11-22