Roko 批判 AI 安全圈核心术语：P-Doom、超级智能等概念被指缺乏严谨性
mimi10v3 · x · 2026-08-05
Roko Mijic（以 Roko's Basilisk 思想实验闻名的学者）发文，对 AI 安全与 Alignment 圈常用的核心术语提出严厉批判，认为它们经不起仔细推敲：
- P-Doom：缺乏对“Doom（毁灭）”的一致性定义，且完全忽视了“缺乏 AI 带来的潜在风险”。
- Superintelligence（超级智能）：作者认为其在数学上是不可能的（预告将给出证明）。
- AGI：定义极其模糊且充满弹性，导致大众甚至该词的创造者都无法就其是否实现达成共识。
- Orthogonality（正交性论题）：弱形式虽正确但极其平庸，强形式可能错误且无法验证。
- Singularity（奇点）：强形式可证明为不可能，弱形式则毫无意义。
「漫话AGI」频道最新
- Jeff Ladish:超级智能能治愈疾病与贫困,前提是实现对齐 — JeffLadish · 2026-08-05
- 研究：盲测显示人们更偏爱 AI 写的故事，且误以为出自人类时评分最高 — EricTopol · 2026-08-05
- 斯坦福研究：过度依赖 AI 伴侣会降低用户心理健康水平 — Diyi_Yang · 2026-08-05
- 段子：AGI 时间线与距离旧金山的距离成反比 — ziv_ravid · 2026-08-05
- METR 曲线非匀速增长：模型达超人类水平时任务成功率将逼近无穷 — geoffreyirving · 2026-08-05
- 预测：12 个月内将出现比肩 ChatGPT 的个人 Agent — signulll · 2026-08-05