关于 AI 末日论的预期价值计算分歧
noahlt · x · 2026-09-01
针对“末日论者”与其反对者的分歧进行了拆解。作者认为前者是在做 EV（期望值）计算：虽然 AI 毁灭概率 p 很小，但后果 V 极大，因此值得担忧；而后者倾向于认为 p 极小（接近 ε），故应忽略极端风险，专注解决现实问题。作者反驳了将后一种观点简单归结为心理防御机制（cope）的说法，认为这是基于不同概率预期的理性计算。
所属事件:为何人们倾向否认AI与机器人的潜在影响(4 条相关)→
「漫话AGI」频道最新
- 导师主张给每位博士生标配 Codex Pro，引发「学生该不该用 AI」争论 — examachine · 2026-10-16
- Nature 论文用 LLM 绘制人类语言神经元地图,机制可解释性已成现实 — raphaelmilliere · 2026-10-16
- OpenAI proofdump 把 3SUM 纪录推向 O(n^1.921),Lean 验证通过 — iskander · 2026-10-16
- 陶哲轩两年前预测 AI 三年内成数学家副驾驶，被指全部落空 — abhishekcode42 · 2026-10-16
- 跨领域专家均估 AI 灾难风险 1%-16%,背景差异出乎意料地小 — ben_j_todd · 2026-10-16
- 专家预测 2100 年前全球 AI 灾难概率中位数为 5% — ben_j_todd · 2026-10-16