Yudkowsky 认领"从没说过 p(doom)=99%",被质疑曾称毁灭概率接近 1
teortaxesTex · x · 2026-11-22
关于 Eliezer Yudkowsky 灭亡概率表态的争议:有人替他辩护称他从未说过 p(doom) 是 99%,Yudkowsky 本人点赞认可了这一说法。但发帖人 teortaxesTex 指出这反而让人更低估他——因为 Yudkowsky 2022 年的原话明确写着"请让 AI 不要以大致接近 1 的概率把所有人拆解掉",并强调"任何说我要求更严格对齐的人都没读懂"。配图截取了 Yudkowsky 的文章,显示他认为只要能把"杀死所有人"的概率从近乎确定降下来,多花一点力气就能降到 5% 以下。争论核心是:他说的是"概率接近 1"而非具体数字 99%,措辞上的回旋空间是否存在。
「漫话AGI」频道最新
- Greg Kamradt 调侃超长黎曼猜想证明:能跑但没用 — GregKamradt · 2026-11-22
- 安全专家提出 V³ 公式:AI 让漏洞发现、利用与响应全面失衡 — chrisrohlf · 2026-11-22
- 预测:单个任务的训练算力成本可能只有几美分甚至更低 — 1a3orn · 2026-11-22
- AI 千页数学证明为何这么长:人类根本付不起这种「算力体力」 — jd_pressman · 2026-11-22
- AI 快速重塑社会恰因它名副其实,否认者只会持续困惑 — iskander · 2026-11-22
- Szegedy 预言:一年内未经形式化验证的证明将不再被承认 — aran_nayebi · 2026-11-22